跳至正文

新闻实验室会员通讯(719)给AI“下毒”

通过给生成式AI“下毒”的方式,助艺术家们一臂之力,帮他们对抗科技巨头的剥削。

方可成
方可成
需要 12 分钟阅读
新闻实验室会员通讯(719)给AI“下毒”
Photo by Artem Maltsev / Unsplash

从今年年初开始,新闻实验室会员通讯持续关注着生成式AI(Generative AI,或AIGC)的发展,并且已经在使用Midjourney生成播客封面图。生成式AI给内容和媒体行业带来的革命正在发生,但针对它的争议之声也越来越引人注意。

生成式AI面临的最大争议之一,就是版权问题——ChatGPT学习的海量文本,有许多是未经授权的书籍、文章等;训练Midjourney的海量图像,也有很多是未经艺术家授权使用的作品。

更为恶劣的后果是:这些作品在未经授权被使用之后,生成的AI模型反过来又在抢艺术家和作家的工作。所以,对于这些创作者来说,既未被征求同意,又面临着丢掉饭碗的危险,这当然是非常不公平的处境。

但是,在财大气粗并且号称代表了先进技术发展方向的科技巨头面前,无论是作家、媒体、出版社还是艺术家,想要走法律途径维权都太难了。

怎样改变这种巨大的权力不对等?怎样给弱小的创作者们一些帮助?最近,有计算机科学家创造出了工具,通过给生成式AI“下毒”的方式,希望助艺术家们一臂之力,帮他们对抗科技巨头的剥削。

“下毒”的原理


相关内容

免费订阅后可查看 免费内容

新闻实验室会员通讯(855)AI如何影响选举

69%的案例都是AI发挥了有害作用,只有16%是良性的使用。

新闻实验室会员通讯(855)AI如何影响选举
免费订阅后可查看 免费内容

新闻实验室会员通讯(854)几则给人希望的案例

不论资源多少,不论障碍大小,报道与传播总能找到方式与渠道,也总能获得回响。

新闻实验室会员通讯(854)几则给人希望的案例
免费订阅后可查看 免费内容

新闻实验室会员通讯(853)抖音上的聋人创作者

“聋人身份”被不断商品化,文化表达被压缩进流量和消费的模板中。

新闻实验室会员通讯(853)抖音上的聋人创作者