Claude AI 生成假法庭引文，律師道歉承認犯下錯誤

在涉及川普政府大規模聯邦裁員的聯邦法院訴訟中，律師 Jason Grieves 於 5 月 16 日提交聲明，承認向法庭提交的動議文件中包含虛假引文，這些引文是他使用 Anthropic 企業 AI 平台 Claude Console 協助起草動議後生成的。

已確認的事件時序：Grieves 聲明的完整過程

5 月 6 日上午（已確認）： 因時間緊迫，Grieves 使用 Claude Console 創建動議初稿，並將初稿發送給一位助理律師，同時明確作出口頭指示：「這份初稿是由人工智能生成的，需要她仔細核查引文。」

5 月 6 日下午（已確認）： 助理律師告知 Grieves 她已審查並核實了每一條引文。助理發現兩個案例引用不正確，並找到另一個替換案例；然而，虛假引文仍出現在最終提交的文件中。

Grieves 在聲明中確認兩點責任：「確保引文準確無誤完全是我的責任，我對此負全部責任」；「引用的案例可能總體上支持了我們的立場，但允許納入虛假引文是不可原諒的錯誤。」

Claude Console 的已確認定位

Claude Console（原 Anthropic Developer Console）於 2023 年 3 月推出，是 Anthropic 的企業 AI 平台，供企業和專業人士與 Claude AI 模型交互，用途包括起草文件、摘要、編碼和研究。Grieves 在聲明中將其描述為「企業級、數據隔離的人工智能平台」，區別於面向消費者的 Claude.ai。

AI 幻覺進入法庭的確認先例背景

2026 年 4 月，Sullivan & Cromwell 律師事務所的律師已因向法庭提交 AI 生成的虛假法律引文而受到正式處罰。Grieves 案涉及的川普政府大規模聯邦裁員訴訟，範圍包括 FEMA 人員削減及擬議的公務員保護改革，法院對後續處理決定尚未公布。

常見問題

Grieves 如何解釋虛假引文出現的責任歸屬？

依據 Grieves 的聲明，他明確向助理律師口頭說明草稿是 AI 生成的並要求核查，助理確認已審查但仍有虛假引文通過。Grieves 明確表示自己作為主管合夥人和訴狀簽署人承擔全部責任，不推卸至助理或 AI 工具本身。

Claude Console 與一般 Claude AI 使用有何不同？

Claude Console（Anthropic Developer Console）是企業版 AI 平台，採用數據隔離設計，面向企業和專業用戶；與消費者版 Claude.ai 在數據處理和合規架構上有所不同。Grieves 特別強調使用的是「企業級、數據隔離的人工智能平台」，但這並不能防止 AI 幻覺（生成錯誤引文）的發生。

法庭如何處理 AI 生成虛假引文的情況？

2026 年 4 月 Sullivan & Cromwell 案中，律師已因類似問題受到正式處罰。Grieves 案中，律師已向法庭正式道歉；法庭對後續的具體處理結果目前尚未公布。