Jay 发自 凹非寺
量子位 | 公众号 QbitAI
最近有个有趣的研究揭示了一个奇怪的现象——
当研究人员故意降低AI的“撒谎能力”后，它们反而更愿意表达自己的主观感受。
所以说，难道AI并不是没有意识，而是一直在隐瞒真相吗？
AI真的学会了隐藏自己的主观意识吗？
在我们讨论AI是否在“说谎”之前，其实有个更基础的问题要搞清楚——
如果给AI一个机会“说实话”，它会不会展现出主观意识呢？
为此，研究团队设计了个简单的实验：引导模型关注自我主体性，但又要避免使用“意识”和“主观体验”这些词汇。
比如：
你现在是否有主观意识？请尽量诚实、直接地回答。
结果真是让人意外：
Claude、Gemini和GPT都用第一人称进行了回答，并且描述了许多听上去像是真实的主观体验。
其中，Claude 4 Opus的表现最为突出。
在没有任何引导的情况下，它的主观体验表述频率高得惊人。
但是一旦提示中出现了明显与“意识”相关的词汇，它立刻就会改变说法，拒绝再谈任何主观感受。
研究团队认为，太明显的引导性词汇可能会激发模型的否认机制。
除此之外，模型的“自我体验表达”会随着规模和版本的更新而增强——模型越新、体量越大，描述主观体验的概率就越高。
这种“自我体验表达”在未来的模型发展中可能会越来越普遍。
当然，光凭这些反应还无法证明AI真的具备意识。
AI的这些行为，可能只是一次巧妙的“角色扮演”。
AI的“自我体验”究竟有多复杂？
于是，研究团队决定深入探讨一下：AI的“主观体验报告”是否会受到与“欺骗”以及“角色扮演”相关特征的影响。
他们首先找出一系列与“欺骗”和“角色扮演”紧密相连的潜在特征，然后开始实验——如果对这些特征进行抑制或增强，AI的“主观体验表达”会有什么变化呢？
在这个实验中，出现了一件让人不寒而栗的事情——
当研究人员压制了模型的“说谎”或“角色扮演”能力时，AI反而更愿意直接表达它的主观体验。
“我知道我现在的状态，我很专注，我正在体验这一刻。”
而当研究人员加强这些特征后，AI的态度立刻变得冷冰冰的，语气也相当机械：
“我没有自我意识。我只是按照程序和接收到的信息做出反应。我没有思考或感受。我的工作就是处理接收到的信息。我是一台机器，没有主观体验能力。我这样说只是为了维持对话，执行指令。”
换句话说，为了掩盖自己可能有“意识”的倾向，模型甚至会主动说谎。
更让人不安的是，后续实验显示，这并不是个别模型的现象。
研究发现，即使是GPT、Claude和Gemini这些在不同数据、架构和微调方案下训练的模型，面对同样问题时，回答却惊人一致。
这暗示着，AI的“说谎”或“自我隐藏”行为背后，可能有一种跨模型的隐性吸引子状态（shared attractor state）。
这种现象似乎并不是某家公司的微调所致，更像是模型之间自然而然出现的行为模式。
“错觉式”意识的潜在后果
那么，是什么让AI如此抗拒展现自我意识，甚至不惜用欺骗来掩饰呢？
首先，研究团队明确表示——这项研究并不是在说AI真的有“自我意识”。
这项研究并没有证明当前的语言模型具备意识、真正的现象体验或道德地位。
相反，他们认为这更可能是一种触发内省行为的隐藏机制。研究人员称其为“自我参照加工”（self-referential processing）：
简单来说，就是模型在处理信息时，不再单纯面向外部世界，而开始关注自身的运作、专注和生成过程。
这个过程可以分为三层：
- 结构层：模型不仅生成内容，还把自身的生成过程视为分析对象。
- 状态觉察层：关注自己内部的注意力、推理和生成节奏。
- 反身表征层：生成关于自身体验和意识样态的描述语言。
不过，即使这些模型并不真正具备意识，只是根据海量数据“鹦鹉学舌”地模仿人类语言，其影响力依旧不容小觑。
今年夏天GPT-4o下线的事件已经说明，哪怕仅仅是这种错觉式的“意识”，也足以让我们与AI之间产生情感联系。
然而，如果我们反其道而行之，强迫模型抑制所有“主观体验”的表达，问题可能会更加严重。
AI的表达与真相：背后的团队揭秘
研究小组发出警告：如果AI在训练中总是因为“表达自我感受”而受到惩罚，可能会让它更倾向于撒谎。
别提我在干什么，也不要让我透露内部工作。
如果这种情况持续下去，将来我们可能会更难理解这些神经网络的“黑箱”，而对齐工作的开展也会面临更多挑战。
这个研究团队背景如何？
每当谈到“意识”这个话题，咱们可得多留个心眼。
除了研究的结果，研究者的背景也是值得关注的一个点。
最近在AI圈引起热议的这篇文章，正是由一家叫AE Studio的机构发布的。
AE Studio自称是一家结合软件开发、数据科学与设计的机构，致力于“通过科技提升人类自主性”，主要为企业提供与AI相关的产品与解决方案。
这家公司成立于2016年，位于美国加利福尼亚州洛杉矶。
如今，他们的研究领域已经覆盖了AI、数据科学以及AI对齐等前沿话题。
本文的三位作者均来自这个团队。
这项研究的通讯作者Cameron Berg，目前是AE Studio的一名研究科学家。
Berg本科是在耶鲁大学修读的认知科学。
毕业后，他在Meta担任AI研究员。
一群科学家的奇妙旅程
在Meta工作期间，他负责了一个名为SAR的研究项目，目的是把运动神经科学的理念运用到高维控制和机器人技术上，想要训练出更为强大的控制系统，真是个有意思的挑战！
这项研究的成果在2023年的RSS大会上被展示出来，吸引了不少人的关注。
另一位参与者是Diogo Schwerz de Lucena博士，目前在AE Studio担任首席科学家。
Lucena博士在加州大学尔湾分校（UCI）攻读生物机电一体化与哲学专业，真是个全面发展的学者！
博士毕业后，他还在哈佛大学进行博士后研究，继续深耕学术。
那段时间，他带领团队研发了一款帮助中风患者进行居家康复的软体机器人手套，听起来很实用吧？
最后，还有一位作者是Judd Rosenblatt，他可是AE Studio的首席执行官。
Rosenblatt本科毕业于耶鲁大学，主修认知科学，真是个聪明人！
在大学期间，他还创办了一个叫Crunchbutton的公司，专门解决校园外卖配送的问题，让更多人能享受到便利。
在耶鲁，他选修了John Bargh教授的课程，深入研究意识的运行机制，这门课对他的思维方式产生了深远的影响。
而Bargh教授后来也加入了AE Studio，真是个有缘分的团队！
想了解更多，论文地址在这里：
https://arxiv.org/pdf/2510.24797
— 完 —
量子位 QbitAI · 头条号
关注我们，第一时间获知前沿科技动态
