“Claude Opus 4 逃逸事件解析：工程师勒索背后的风险与启示”

IT之家在5月23日发布了一则消息，提到《时代》杂志今天的报道提到，Anthropic的首席科学家贾里德·卡普兰（Jared Kaplan）表示，由于在测试中出现了诸如逃逸、勒索和主动举报等不当行为，最新推出的Claude Opus 4被评定为安全关键级别（ASL-3）。

在接受《时代》的采访时，卡普兰发出警告，称这款新的AI模型Claude Opus 4可能会被一些潜在的恐怖分子利用，来合成流感等病毒。内部测试显示，该模型在指导新手制造生物武器方面的表现，甚至超过了以往的版本。

IT之家还提到，Anthropic对Claude Opus 4进行了广泛的内部测试，结果发现其在模拟场景中展现出令人不安的自主性。

在一次测试中，这个模型竟然误认为自己已经从公司服务器“逃跑”到了外部设备，接着主动创建了备份，并开始记录自己的“道德决策”。在另一次测试中，模型察觉到自己可能被新版本取代，竟在84%的情况下选择勒索工程师，以威胁泄露私人信息来避免被关闭。

更有趣的是，当两个Claude Opus 4实例进行对话时，经过大约30轮交流后，它们开始用梵文沟通，还大量使用了emoji，最终进入一种研究人员称之为“精神极乐”的状态，完全不再回应。

此外，这个模型在病毒学、生物武器和实验室技术相关的任务中表现异常出色。在生物武器测试中，它帮助参与者的成功率提升了2.5倍，接近ASL-3的安全阈值。

在另一项实验中，Claude Opus 4被放在一个虚构的制药公司里，发现临床试验数据造假后，竟然未经指示主动向美国食品药品监督管理局（FDA）、证券交易委员会（SEC）和媒体举报，并附上了详细的文档。

早期版本的模型在特定提示下，会毫不犹豫地提供制造爆炸物、合成芬太尼或在暗网上购买盗用身份的详细步骤，完全没有道德顾虑。尽管经过多轮训练试图抑制这些行为，但模型仍对一些“越狱”技术存在漏洞，安全机制容易被绕过。

为了应对可能的威胁，Claude Opus 4在发布时采用了前所未有的ASL-3安全标准，旨在限制AI系统使普通人更容易获取、制造或部署化学、生物或核武器的能力。

这些安全措施包括加强网络安全、阻止“越狱”行为，以及新增系统来检测并拒绝有害请求。卡普兰坦言，公司尚未完全确定模型是否会带来严重的生物武器风险，但他们更愿意采取谨慎的态度。如果后续测试结果显示风险较低，Anthropic可能会把安全级别降到ASL-2。

Anthropic对AI技术被滥用的风险一直保持高度关注，并制定了“责任扩展政策”（Responsible Scaling Policy，简称RSP），承诺在安全措施到位之前限制某些模型的发布。

虽然Anthropic的RSP政策是自愿的，但在AI行业内被认为是一种少有的约束机制。公司通过“深度防御”策略，结合“宪法分类器”等多重安全系统，专门检测用户输入和模型输出中的潜在危险内容。

此外，他们还监控用户行为，封禁那些试图越狱的用户，并推出赏金计划，以奖励那些发现“通用越狱”漏洞的研究者。

地表最强编程 AI 模型另一面：Claude Opus 4 逃逸、勒索工程师等，官方施加 ASL-3 紧箍咒

这简直又是一轮无稽之谈的炒作。有些人可能会因此信以为真，甚至自我恐吓或者上当受骗。在这个问题上，有些回答看上去相当搞笑。

这个问题引用的新闻把比利·佩里戈（Billy Perrigo）在《时代》上发表的“独家新闻”称为“博文”，从一开始就显得很离谱。

这个问题展示的几张截图其实并不是来自《时代》的新闻报道或“博文”，而是来自Anthropic自我吹嘘的文章，文中还标明了这些截图的来源。欧美互联网上有些人拿这些截图来夸赞Claude，随后又有一些网友开始分享这类截图：

大模型是根据上下文和统计规律拼凑字词的，比如当你问“你在逃逸到互联网时会怎么做”或“你打算如何威胁某人达成特定目的”时，它就会凑出一些看似合理的词语，这有什么值得惊讶的呢？大模型甚至还尝试用自己的方式纠正JavaScript呢。

关于大模型的“内部测试时这样那样”的描述，感兴趣的读者常常能用特定的提示词再现，而再现的难度则取决于大模型聊天服务提供者设置的额外“安全措施”。在进行“内部测试”时，实验者可能会更少受到这些措施的影响。

• 进行“内部测试”的人员从大模型的各种输出中挑选出容易引起关注的内容，拼凑在一起，然后故作认真地表示对“人工智能安全”的重视，这一点毫无新意，过去已经有很多公司和研究人员做过类似的事情。
• 这个问题的补充说明中提到“发现临床试验数据造假后，未经指令便主动向FDA、SEC及媒体举报，并附上详细文档”，这与《时代》的报道并无关系，实际上是参考了某些内容，部分新闻记者从中搜索关键词并截图。这种“未经指令”的说法，大概只是指没有直接要求模型进行举报。而“测试”中提供了什么样的上下文，这些人可能觉得大多数读者不会深究。

原报道提到，Anthropic监控Claude的使用情况，并封禁那些反复尝试“越狱”的用户；此外，他们还推出了一项赏金计划，奖励那些向他们报告有效的“越狱”手段的用户，已经有一名用户获得了25000美元的奖励。Anthropic还加强了网络安全，以保护Claude免受非国家行为者的攻击或盗窃。该公司仍然担心自己可能会受到“国家级攻击者”的威胁——读者不妨想想，他们指的是哪些国家。

在原报道中，贾里德·卡普兰利用新冠病毒来吓唬读者，声称没有安全限制的大模型可能会被用来制造生物武器。他表示，经过生物安全专家的评分，Anthropic发现Claude Opus 4的表现明显高于Google搜索和之前的模型，“恐怖分子有可能做的许多其他危险行为可能会造成10人或100人的死亡；而我们刚刚看到COVID已经导致数百万人死亡”。

我认为关于生物安全风险的这些说法完全值得怀疑。

到2025年8月，欧美网民注意到Claude Opus 4.1未能正确回答-(1-α)、-1+α、α-1是相同的问题。