跳至正文

新闻实验室会员通讯(719)给AI“下毒”

通过给生成式AI“下毒”的方式,助艺术家们一臂之力,帮他们对抗科技巨头的剥削。

方可成
方可成
需要 12 分钟阅读
新闻实验室会员通讯(719)给AI“下毒”
Photo by Artem Maltsev / Unsplash

从今年年初开始,新闻实验室会员通讯持续关注着生成式AI(Generative AI,或AIGC)的发展,并且已经在使用Midjourney生成播客封面图。生成式AI给内容和媒体行业带来的革命正在发生,但针对它的争议之声也越来越引人注意。

生成式AI面临的最大争议之一,就是版权问题——ChatGPT学习的海量文本,有许多是未经授权的书籍、文章等;训练Midjourney的海量图像,也有很多是未经艺术家授权使用的作品。

更为恶劣的后果是:这些作品在未经授权被使用之后,生成的AI模型反过来又在抢艺术家和作家的工作。所以,对于这些创作者来说,既未被征求同意,又面临着丢掉饭碗的危险,这当然是非常不公平的处境。

但是,在财大气粗并且号称代表了先进技术发展方向的科技巨头面前,无论是作家、媒体、出版社还是艺术家,想要走法律途径维权都太难了。

怎样改变这种巨大的权力不对等?怎样给弱小的创作者们一些帮助?最近,有计算机科学家创造出了工具,通过给生成式AI“下毒”的方式,希望助艺术家们一臂之力,帮他们对抗科技巨头的剥削。

“下毒”的原理


相关内容

免费订阅后可查看 免费内容

新闻实验室会员通讯(849)你问我答

柴静《看见》和YouTube频道、如何排除碎片化干扰沉浸阅读、《华盛顿邮报》TikTok账号、研究生和导师关系……

新闻实验室会员通讯(849)你问我答
免费订阅后可查看 免费内容

新闻实验室会员计划线上沙龙(2025.6)文青做生意

文艺青年创业面临的挑战和有效的实践策略。

新闻实验室会员计划线上沙龙(2025.6)文青做生意
免费订阅后可查看 免费内容

新闻实验室会员通讯(848)抖音宣传机器

拥有最多抖音号的官方机构并非官媒或宣传部。

新闻实验室会员通讯(848)抖音宣传机器