美国政府周五发布了一项紧急出口管制指令,要求 Anthropic 立即暂停其两款最强大的 AI 模型——Claude Fable 5 和 Claude Mythos 5——对所有外国公民的访问,理由是担忧可能存在越狱漏洞,涉及国家安全。该指令无论在美国境内还是境外,都禁止外国公民访问这些模型。为确保遵守要求,Anthropic 被迫在其面向全部客户的范围内禁用这两款模型。这两款模型是在几天前刚刚发布,其中 Mythos 5 仅向部分合作伙伴开放,因为它在发现网络安全漏洞方面能力突出。
政府指令叫停 Claude Fable 5 和 Mythos 5 的访问权限
周五发布的紧急出口管制指令禁止任何外国公民访问 Claude Fable 5 和 Claude Mythos 5,无论身处美国境内还是境外。该命令的适用范围非常广泛,迫使 Anthropic 为确保合规而在其全部客户群中禁用这些模型。
该信函并未提供其国家安全担忧的具体细节,但政府认为其已了解到一种绕过(或“越狱”)公开可用的 Fable 5 模型的方法。Mythos 5 具有更少的护栏,并且在发现网络安全漏洞方面尤其强大,因此仅向部分合作伙伴开放。
其他所有 Anthropic 模型的访问将不受影响。公司表示正在尽快恢复访问。
Anthropic 对越狱严重性结论提出争议
Anthropic 对该发现的严重性表示异议。公司称其已审查了该技术的演示,并得出结论认为,所识别的漏洞看起来相对简单,而且其他公开可用的模型也能在不需要任何绕过的情况下发现这些漏洞。
公司表示,截至目前,政府仅提供了关于潜在“窄范围、非普遍性”越狱的口头证据——本质上就是要求模型读取某个特定代码库,并修复其中的任何软件缺陷。Anthropic 还补充称,其已验证所展示的能力水平已可在竞争模型中广泛获得,包括 OpenAI 的 GPT-5.5。
在遵守该指令的同时,Anthropic 表示其认为此举将树立一个危险先例。“如果这一标准被应用到整个行业,”公司在文中写道,“我们认为它将实质上叫停所有前沿模型提供商的所有新模型部署。”
David Sacks 详述政府关于暂停的立场
周六,David Sacks——美国总统科学与技术顾问委员会的联合主席——在 X 上写道:“一位同时是 Anthropic 和美国政府的高度可信合作伙伴,正在测试 Fable 时,提出了对这些护栏的越狱。该行政部门要求 [Anthropic 首席执行官 Dario Amodei] 修复该越狱,或是撤回对该模型的部署。Dario 拒绝了。”
Sacks 进一步声称,Anthropic 对政府请求的反应与公司自身在关于 AI 安全与监管必要性的公开说法背道而驰——Amodei 本周在一篇博客文章中再次分享了这一观点。
“Sacks 写道:‘Anthropic 把持续提供面向消费者的模型置于安全之上。作为回应,行政部门发布了出口管制。行政部门是勉强这么做的。我们非常惊讶于 Anthropic 并不愿意配合一个合理的安全请求(即修复越狱问题)。Anthropic 的反应与其作为安全 AI 研究社区的品牌和理念大相径庭。’”
Sacks 补充称,政府希望 Anthropic 能修复该问题,并让 Fable 5 重回公开发布。“行政部门看重 Anthropic 的技术能力,并认为尽管该问题很严重,但应当能够轻松解决,”他写道。“球在 Anthropic 那边。”
Anthropic 与美国政府之间此前的紧张关系
今年早些时候,Anthropic 与美国政府曾发生正面冲突,当时这家 AI 公司拒绝签署一份扩大协议,允许对美国民众进行大规模国内监控,以及部署完全自主的致命武器系统。
在会谈破裂后,Donald Trump 总统痛批该公司,国防部还将 Anthropic 标为“一条供应链风险”——这一认定该公司已在法庭上提出挑战。自那以后,有报道称,双方的对峙有所降温,因为政府希望使用 Claude Mythos 以及其他模型。
常见问题
美国政府周五要求 Anthropic 做什么?
美国政府周五发布了一项紧急出口管制指令,要求 Anthropic 立即暂停其对所有外国公民访问 Claude Fable 5 和 Claude Mythos 5 的权限,理由是对可能存在越狱漏洞的国家安全担忧。
为什么 Anthropic 对政府的越狱结论提出质疑?
Anthropic 审查了该技术的演示,并得出结论认为,所识别的漏洞看起来相对简单,而且包括 OpenAI 的 GPT-5.5 在内的其他公开可用模型也能够发现这些漏洞,而且不需要任何绕过。
Anthropic 与美国政府之间之前存在哪些紧张关系?
今年早些时候,Anthropic 拒绝签署一份扩大协议,允许对美国民众进行大规模国内监控,以及部署完全自主的致命武器系统。此举导致国防部将 Anthropic 标为“一条供应链风险”——这一认定该公司已在法庭上提出挑战。