跳至正文

新闻实验室会员通讯(719)给AI“下毒”

通过给生成式AI“下毒”的方式,助艺术家们一臂之力,帮他们对抗科技巨头的剥削。

方可成
方可成
需要 12 分钟阅读
新闻实验室会员通讯(719)给AI“下毒”
Photo by Artem Maltsev / Unsplash

从今年年初开始,新闻实验室会员通讯持续关注着生成式AI(Generative AI,或AIGC)的发展,并且已经在使用Midjourney生成播客封面图。生成式AI给内容和媒体行业带来的革命正在发生,但针对它的争议之声也越来越引人注意。

生成式AI面临的最大争议之一,就是版权问题——ChatGPT学习的海量文本,有许多是未经授权的书籍、文章等;训练Midjourney的海量图像,也有很多是未经艺术家授权使用的作品。

更为恶劣的后果是:这些作品在未经授权被使用之后,生成的AI模型反过来又在抢艺术家和作家的工作。所以,对于这些创作者来说,既未被征求同意,又面临着丢掉饭碗的危险,这当然是非常不公平的处境。

但是,在财大气粗并且号称代表了先进技术发展方向的科技巨头面前,无论是作家、媒体、出版社还是艺术家,想要走法律途径维权都太难了。

怎样改变这种巨大的权力不对等?怎样给弱小的创作者们一些帮助?最近,有计算机科学家创造出了工具,通过给生成式AI“下毒”的方式,希望助艺术家们一臂之力,帮他们对抗科技巨头的剥削。

“下毒”的原理


相关内容

免费订阅后可查看 免费内容

新闻实验室会员通讯(758)你问我答

关于如何降低舆论极化、中美新闻业趋势比较、文字转型短视频、newsletter推荐、辞职读研专业选择等话题的提问。

新闻实验室会员通讯(758)你问我答
免费订阅后可查看 免费内容

新闻实验室会员计划线上沙龙(2024.5)加沙战争、美国校园抗议与中文舆论

与「结绳志」创始人之一王菁对话。

新闻实验室会员计划线上沙龙(2024.5)加沙战争、美国校园抗议与中文舆论
免费订阅后可查看 免费内容

新闻实验室会员通讯(757)2024年普利策奖解读(下)

从AI到战争,本次获奖者中,值得注意的作品和趋势。

新闻实验室会员通讯(757)2024年普利策奖解读(下)