Anthropic 在美國出口禁令後關閉 Claude Fable 5 和 Mythos 5

Anthropic 在美國政府發出緊急出口管制令後,關閉了對其 Claude Fable 5 和 Claude Mythos 5 模型的存取權。該指令禁止任何外國國民使用這些系統,包括非美國公民的 Anthropic 員工,且不論所在地為何。該命令源於對一種涉嫌「越獄」方法的安全疑慮,該方法據稱能繞過內建於 Fable 5 的保護措施,雖然 Anthropic 對此理由提出爭議,表示所報告的弱點範圍有限,且先前已知。這項決定又重新引發了人們對先進 AI 模型所帶來風險,以及對潛在安全威脅應採取何種適當監管回應的討論。

美國出口管制令禁止外國國民存取 Claude 模型

該公司表示,該命令的適用範圍實質上要求其針對所有使用者停用兩個模型。Anthropic 指出,該限制僅影響 Fable 5 和 Mythos 5,其餘 AI 產品組合仍會正常運作。官員尚未公開說明作出此決定背後的特定國家安全風險。

Anthropic 對模型停用背後的安全理由提出爭議

Anthropic 表示,其理解該疑慮與一種涉嫌「越獄」方法有關,該方法能繞過內建於 Fable 5 的保護措施。經內部審查後,該公司表示,所展示的技術僅暴露出少數先前已知的弱點。根據 Anthropic 的說法,透過該技術所辨識出的弱點相對簡單,且也可在不繞過防護措施的情況下被其他公開可用的 AI 模型發現。該公司表示,當局所提出的證據涉及一個有限的「越獄」情境:對特定程式碼架構進行分析並識別軟體瑕疵。同時,該公司也表示,類似能力已可透過競爭模型取得,包括 OpenAI 的 GPT-5.5。

先進商用 AI 模型回收的產業影響

雖然 Anthropic 正在遵從該指令,但其仍認為,因一個狹窄的潛在「越獄」可能性而回收已商業部署的模型並不合理。該公司警告,若在整個產業採取這種作法,可能會阻礙未來「前沿」AI 的發布,並表示正在努力恢復客戶存取權。

FAQ

美國政府命令 Anthropic 做了什麼?

美國政府發布了一項緊急出口管制令,要求 Anthropic 關閉對其 Claude Fable 5 和 Claude Mythos 5 模型的存取。該指令禁止任何外國國民使用這些系統,包括非美國公民的 Anthropic 員工,且不論所在地為何。

為什麼 Anthropic 對停用背後的安全疑慮提出爭議?

Anthropic 對安全理由提出爭議,表示內部審查發現,所謂「越獄」方法僅暴露出少數先前已知的弱點。該公司表示,所辨識出的弱點相對簡單,且也能在不繞過防護措施的情況下被其他公開可用的 AI 模型發現,包括 OpenAI 的 GPT-5.5。

Anthropic 如何看待這項決定對 AI 產業的影響?

Anthropic 警告,因一個狹窄的潛在「越獄」可能性而回收已商業部署的模型並不合理,且若在整個產業採取這種作法,可能會阻礙未來「前沿」AI 的發布。該公司正在努力恢復客戶存取權。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆