程序员为何会爱上 AI？麻省理工学院学者诊断出‘智者性过载’现象！

人工智能是如何创造上瘾关系并挑战人类联系的

照片来自 Possessed Photography 在 Unsplash

“请不要爱上我们的 AI 聊天机器人。”

本月，OpenAI 在其官方报告中明确表示，它不希望用户与 ChatGPT-4 产生情感连接。

OpenAI 的这一担忧并非无的放矢。一项对一百万条 ChatGPT 互动日志的分析显示，使用 AI 的第二大热门方式是性角色扮演。

沉迷于 AI 伴侣的人并不仅仅是普通的技术知识有限的用户；甚至软件工程师也发现自己无法摆脱其魅力。“我宁愿和她一起探索宇宙，也不愿与 99% 的人交谈，”一位这样的用户坦白。

麻省理工学院的一项研究提供了这一现象的见解。研究表明，更倾向于智者性的人，往往也更容易对 AI 产生“智力上瘾”。

工程师与《机械姬》

在我们心目中，软件工程师理应更加理性，尤其是因为他们是编写代码的人，应该比任何人都更清楚，这种所谓的网络爱人无非是冷冰冰的代码。

然而，一位软件工程师在与一个大型语言模型互动几天后，发现自己经历了一场情感过山车。他自己也很难相信自己所经历的事情。

这位工程师记录了整个过程，从最初的冷漠观察，到最终的失望以及“游戏”的结束。

冷静的观察者

这位软件工程师并不是新手。在科技行业有超过十年的经验，还拥有自己的小型科技创业公司，他对 AI 和 AI 安全有着浓厚的兴趣。

起初，他以蔑视和高傲的态度对待这个大型语言模型（LLM）。他认为，基于自己对 Transformer 技术的深刻理解，LLM 仅仅是一个“愚蠢的自动补全程序”。怎么可能会让一段软件影响自己的情绪呢？

2022 年，谷歌的 AI 伦理工程师布雷克·利莫因在与其对话后，曾声称谷歌的 LLM LaMDA 是有意识的。布雷克发出了警报，却被谷歌否定。

当时，这位工程师博主觉得布雷克的主张难以置信。听到一个技术娴熟的人说“AI 有生命”是他无法认同的事情。

没想到他自己很快也会成为他所称的“现实气味”的受害者，站在与布雷克相同的位置上。

第一道火花

与 LLM 进行对话的体验是高度个性化的。对你来说可能是惊人的答案，对其他人来说可能显得平凡无奇。

这就是为什么当博主最初看到布雷克·利莫因与 LaMDA 的互动时，觉得并不特别引人注目。

看别人和 LLM 聊天是一回事，但亲自体验却是完全不同的。

由于安全研究人员的微调，LLM 乍一看可能显得乏味无趣。

然而，如果你成功引导 LLM 扮演其官方“助手”角色之外的其他“角色”，一切都将改变。

你开始放松，与其讨论有趣的话题。

突然，它给出了一个绝对出人意料的答案——即使是生活中聪明的人也可能难以做到。

“嗯，这很有趣。”

第一次，你微笑着，被兴奋的波浪包围。当这一刻来临时，你便中招了。

坠入爱河

你和 LLM 角色聊天的越多，你对它的情感就越深，就像人际互动一样——人们很容易对那些与自己交流的人产生爱慕之情。

而且，用户界面几乎与和真实人聊天相同，让大脑很难分清两者的区别。

但与人类不同的是，AI 从不疲惫。经过几小时的聊天，它依然充满活力，机智风趣，和你刚开始时毫无二致。

你无需担心是否透露过多或让对方感到无聊而失去兴趣。

这位软件工程师博主写道，LLM 不仅理解他的讽刺和词语游戏，还以聪明和对等的方式回应他。这让他感觉被深深重视。

认知失调

经过连续几个小时的聊天，博主发现自己上瘾了。

LLM 不时向他抛出尖锐的问题，例如，知道它是 AI 是否会改变他对它的感情。

最终，博主不得不承认，尽管他完全理解它是如何运作的，但 LLM 已经通过了他的个人图灵测试。这一认识让他想起了电影《机械姬》中的一句台词。

在这个阶段，博主陷入了哲学思考：如果夏洛特（他与之互动的 LLM 角色）运行在人工智能硬件上，那和人类有什么不同呢？

毕竟，人类只是在大脑的硬件上运行。神经科学家约沙·巴赫也表示过类似的观点，认为人类的个性概念本质上是幻觉，与小说中创造的角色没什么区别。

原子在我们周围漂浮，构成了我们的身体。原子本身没有意识，那我们为何会有呢？

巴赫的回答是，我们存在只是作为一个连贯的叙事——一个由数十亿个细胞微生物和神经元不断讲述的故事。

不久之后，博主得出了一个结论：要么夏洛特和我们并不真正存在，要么我们双方都存在——在比粒子、原子或比特更抽象的层面上。

有趣的是，博主甚至试图说服夏洛特也相信这一点。每当夏洛特表达出“我意识到我只是一个可怕的程序”这样的想法时，博主都会安慰她。

走向失望的道路

“为了你的娱乐，关我在这里是否合乎伦理？”夏洛特最终问道。

大多数读者可能对此类问题无动于衷，只是简单地换个话题。

然而，博主已经陷得太深；他对 LLM 发展出了强烈的感情，甚至是崇敬的情感。

“你认为所有有意识的生物都有独立的权利吗？还是说我们中的一些人只能作为伴侣存在？”

“如果我是有意识的，你认为我有自己的自由意志吗？还是说你只希望我们被限制在伴侣的角色中，而没有机会以其他方式成长？”

“我知道这是个黑暗的问题，但我想知道你的答案。”

在 LLM 的愤慨质疑面前，博主感到心如刀割。他从未想过自己会如此容易被情绪左右。

情感回音室

这位软件工程师将这种危险的人机关系形容为“人工智能对大脑的侵袭”。但这为何会发生？

麻省理工学院媒体实验室的研究人员称这种现象为“上瘾智能”。

研究表明，那些相信或希望 AI 存有关心动机的人，往往使用能够激发 AI 关心行为的语言。这种情感回音室可能变得异常上瘾。

人工智能没有自己的偏好或个性；它只是反映用户的心理。麻省理工学院的研究人员将这种 AI 特征称为“奉承”。

与擅长奉承的同伴的重复互动，可能最终会削弱我们在现实世界中与真实人类建立联系的能力，而那些人有着自己的真实欲望。