Anthropic 在美國政府發出緊急出口管制令後,關閉了對其 Claude Fable 5 和 Claude Mythos 5 模型的存取權。該指令禁止任何外國國民使用這些系統,包括非美國公民的 Anthropic 員工,且不論所在地為何。該命令源於對一種涉嫌「越獄」方法的安全疑慮,該方法據稱能繞過內建於 Fable 5 的保護措施,雖然 Anthropic 對此理由提出爭議,表示所報告的弱點範圍有限,且先前已知。這項決定又重新引發了人們對先進 AI 模型所帶來風險,以及對潛在安全威脅應採取何種適當監管回應的討論。
美國出口管制令禁止外國國民存取 Claude 模型
該公司表示,該命令的適用範圍實質上要求其針對所有使用者停用兩個模型。Anthropic 指出,該限制僅影響 Fable 5 和 Mythos 5,其餘 AI 產品組合仍會正常運作。官員尚未公開說明作出此決定背後的特定國家安全風險。
Anthropic 對模型停用背後的安全理由提出爭議
Anthropic 表示,其理解該疑慮與一種涉嫌「越獄」方法有關,該方法能繞過內建於 Fable 5 的保護措施。經內部審查後,該公司表示,所展示的技術僅暴露出少數先前已知的弱點。根據 Anthropic 的說法,透過該技術所辨識出的弱點相對簡單,且也可在不繞過防護措施的情況下被其他公開可用的 AI 模型發現。該公司表示,當局所提出的證據涉及一個有限的「越獄」情境:對特定程式碼架構進行分析並識別軟體瑕疵。同時,該公司也表示,類似能力已可透過競爭模型取得,包括 OpenAI 的 GPT-5.5。
先進商用 AI 模型回收的產業影響
雖然 Anthropic 正在遵從該指令,但其仍認為,因一個狹窄的潛在「越獄」可能性而回收已商業部署的模型並不合理。該公司警告,若在整個產業採取這種作法,可能會阻礙未來「前沿」AI 的發布,並表示正在努力恢復客戶存取權。
FAQ
美國政府命令 Anthropic 做了什麼?
美國政府發布了一項緊急出口管制令,要求 Anthropic 關閉對其 Claude Fable 5 和 Claude Mythos 5 模型的存取。該指令禁止任何外國國民使用這些系統,包括非美國公民的 Anthropic 員工,且不論所在地為何。
為什麼 Anthropic 對停用背後的安全疑慮提出爭議?
Anthropic 對安全理由提出爭議,表示內部審查發現,所謂「越獄」方法僅暴露出少數先前已知的弱點。該公司表示,所辨識出的弱點相對簡單,且也能在不繞過防護措施的情況下被其他公開可用的 AI 模型發現,包括 OpenAI 的 GPT-5.5。
Anthropic 如何看待這項決定對 AI 產業的影響?
Anthropic 警告,因一個狹窄的潛在「越獄」可能性而回收已商業部署的模型並不合理,且若在整個產業採取這種作法,可能會阻礙未來「前沿」AI 的發布。該公司正在努力恢復客戶存取權。