人不会输给AI，只会败于自己｜免费newsletter（61）

如果有一天人类被AI取代，那一定不是因为AI太强大，而是因为人类自我迷失了。

18 Mar 2023 — 需要 12 分钟阅读

💭几段感想

随着GPT-4的发布以及微软将其接入Office全家桶，AI的话题最近一周非常热闹。喧嚣之中，我的感受是：当我们谈论AI的时候，其实更多还是在谈论和展现自己。

社交媒体上，音量最大的是娴熟使用标题党的自媒体。其实，生成型AI究竟是什么、到底在多大意义上是革命性的，它们并不是很关心。它们在意的只是又多了一个流量密码，拼凑一些“爆炸性”的截图，加一些危言耸听或激动人心的话语，就完成了本周的流量KPI。

这些话语虽然充满水分，但击中了很多人的FOMO（fear of missing out）心态。因为害怕错过新的、据说能改变世界的科技趋势，人们即便并没有真正使用过，也开始畅想乌托邦或反乌托邦的未来。

还有一些人，关心的是中国为什么没有做出ChatGPT，以及墙的存在是不是意味着中国和这一轮AI热潮无缘了。这都是很重要的问题，但它的关注点显然不是AI本身。

我想起两篇关于社交媒体平台和大数据的论文（一、二），虽然研究的不是AI，而是几年前的热门技术，但文中总结的现象同样适用于当下中文世界的相关讨论——中国人对于新技术的想象带有这些特点：

技术中心主义（认为技术是人类问题的解法）；
技术乐观主义（倾向于相信技术带来积极的社会变化）；
技术民族主义（看重国与国之间的技术实力对比）。

即便是那些认为“AI让人类完蛋”的人，思维的出发点也是技术中心主义的，也是认为技术是因、人类社会的变化是果。

这种思路推到极致，就是最近又流行起来的一个说法（来自马斯克）：人类的存在只是为了引出硅基生命，作为一段简短的启动程序，帮助开启AI的统治。

这样的说法很有想象力，但它也将人的位置和尊严降到了最低。它否定了人的主体性，将人类变成了为另一物种服务而存在的生物。这是对思想启蒙运动以来人文主义的根本否定。

当然我们也无需拔那么高，人究竟是否有主体性，是否有尊严，其实还是要看人类自己是否珍惜，而不是看AI是否会试图打压我们。当我抱怨ChatGPT一本正经地胡说八道、根本不核查事实的时候，有朋友提醒我：其实人类一本正经胡说八道得还少吗？人类胡编乱造的东西还少吗？

是呀，如果人做的只是“狗屁工作”，那么这样的事情交给AI可能更好。如果人不尊重自己，互相奴役、自我奴役，那么仅仅充当硅基生命的启动程序也没什么可惜的。我觉得，如果有一天人类被AI取代，那一定不是因为AI太强大，而是因为人类自我迷失了。

如何在AI面前找回人类的主体性？我想，最重要的是在了解技术原理之后，反思技术与社会的关系。以GPT等生成型AI为例，可能的角度包括但不限于：

生成型AI是否会导致垃圾信息泛滥，进而让AI都只能面临“垃圾进、垃圾出”的局面，让本就糟糕的信息环境彻底没救；
AI的偏见和歧视问题，以及在各种情境下被滥用的问题；
生成型AI需要巨量算力支持，也就意味着会消耗大量能源，这是否会加剧气候变化的趋势……

其实每一次的技术进展，都可以成为人类反思和重新确认主体性的机会。能说会道的GPT看上去是一种崭新的挑战，但仔细和它聊一聊，想一想它背后的原理，我想我们能够稳下阵脚。最重要的，是不要提前交出自己的主体性，不论是交给AI，还是交给自媒体标题党。

🖋️一个故事

在这则抓包ChatGPT的故事里，我不知道是该对这个学生更失望，还是该对ChatGPT写的错漏百出的作业更失望。

🔥几则推荐

👆一篇对Newsletter工具Substack的深度解剖，除了我们熟悉的订阅制、受众可带走等特点外，还谈到了作者网络的力量、未来可能的发展方向等。
我又想起一两年前国内一些媒体报道Substack的时候用的标题：“美国版的微信公号”——这真是一个极为错误的类比，不仅因为newsletter的逻辑和平台逻辑完全不同，而且因为Substack从一开始就是要改变以流量和广告为基础的商业模式，而微信公号从一开就是以流量和广告为基础的。

👆龙洲经讯（Gavekal Dragonomics）分析师Dan Wang每年的总结文章都值得一看。他的2022年总结围绕着疫情封控展开，讲述了他从上海逃亡云南，阅读James Scott的体会，以及对中国未来的判断。

👆乔姆斯基等三位学者关于ChatGPT的文章（澎湃做了中译），他们指出：大语言模型并非真正的智能，因为人类的智慧不仅是预测下一个词该说什么，更是理解为什么要这么说。科学理论的进步，并不是通过拼凑那些最可能出现的词，而是去说那些听上去不可能但实际上充满了洞见的发现。
更有意思的是，文章还论述了ChatGPT和“平庸之恶”的相似之处：在重要的问题上拒绝做道德判断，将责任转嫁给它的创造者，声称自己只不过是在执行命令而已。