トップ法律事務所、詐欺ネットワークに関連する破産申立てでAIの「幻覚」を認める

要約

• 法律事務所サリバン＆クロムウェルは、最近の高名な事件の提出書類にAIの「幻覚」が含まれていたことを認めた。
• 同事務所は、AIの出力が適切に検証されず、捏造された引用を含んでいたと述べた。
• このケースは、裁判所任命の清算人が制裁対象の組織プリンス・グループに関連する請求を追及しようとする努力に関係している。

法律事務所サリバン＆クロムウェルは、米国破産裁判所に対し、最近の高名な事件の提出書類に人工知能による誤りが含まれていたことを認めた。これには捏造された引用も含まれている。 「このような事態が起きたことを深く遺憾に思います」と、同事務所の再建責任者アンドリュー・ディッターリッヒは、マーティン・グレン判事に宛てた手紙で述べ、書類にはAIの「幻覚」が含まれており、架空の権威を生み出し既存のものを歪めていたとした。 この開示は、同事務所が英国ヴァージン諸島の裁判所任命の清算人を代表しているニューヨーク南部地区の米国破産裁判所への手紙の中で行われた。誤りは4月9日の申立てに見られ、同事務所はAI使用に関する規則が準備中に守られなかったと述べた。

このケースは、清算人がプリンス・グループとその所有者の陳志に関連する請求を追及しようとする努力に関係している。検察官は、陳志が世界中の被害者を標的にした詐欺の化合物を指示したと主張し、活動に関連するとされる数十億ドルの暗号通貨の回収を求めている。彼は今年初めにカンボジアで拘束され、その後中国に送還された。 米国のチャプター15手続きを通じて、清算人は債権者や被害者を代表して行動する権限の認定を求めている。プリンス・グループは英領ヴァージン諸島に設立されており、米国当局は東南アジアでの大規模な詐欺行為と関連付け、英国と米国の政府から制裁を受けている。 修正された提出書類によると、4月の提出書類は複数の箇所で判例法を誤って記載し、引用もそれに支持されていないものや、根拠のないものもあった。事務所は元の申立てを撤回し、修正版を提出した。 プリンス・グループと陳志の弁護士は、ボイズ・シラー・フレクスナーにより最初に誤りを指摘した。彼らは、米国破産法に関する言及が見つからず、いくつかの権威が誤解されているか誤って識別されていると述べた。あるケースでは、引用された判例が別の裁判管轄の決定を指していたとした。

 別の提出書類では、被告側が少なくとも28の引用が誤っており、裁判所に帰属するとされた引用も存在しないと述べた。彼らは、修正のタイミングが不公平だと主張し、修正後の提出が異議申立ての後に行われたことを理由に、裁判所に予定されている審問の延期と状況報告会の開催を求めた。 サリバン＆クロムウェルは、弁護士にAIツールの使用前に訓練を完了させ、すべての出力を独立して検証することを義務付ける方針を示した。 「いかなる事務所の弁護士も、生成AIツールへのアクセスを許可される前に、必要な2つの訓練モジュールを完了し、その完了を追跡・検証します。この訓練では、AIの『幻覚』のリスク、すなわち判例の捏造、権威の誤解釈、誤った引用について繰り返し強調されます」と述べた。 「弁護士に対して、『何も信じるな、すべて検証せよ』と指示し、AI生成の出力を独立して検証しないことは事務所の方針違反であることを明確にしています。」 同事務所は、より広範な見直しにより、他の提出書類にも小さな誤記が見つかり、それはAIではなく人為的ミスに起因するとした。元の申立てを準備した弁護士の特定は行わなかった。 AIの裁判所への登場 この事件は、研究や起案の迅速化を目的としたAIツールの試験中に、法的実務におけるAI関連の誤りが増加している現状に拍車をかけている。裁判所は最近、AIによる捏造や不正確な参考文献を提出した弁護士を制裁または批判している。オーストラリアでは、昨年、AIの使用により主たる弁護士としての資格を剥奪された弁護士もいる。 法科大学院では、この技術に関する指導を開始し、上級裁判官は誤用が手続きの信頼性に影響を及ぼす可能性を警告している。

最近の判決では、AIが既存の法的枠組みにどのように適合するか、またそのようなツールとのやり取りが特権によって保護されるかどうかについても議論されている。同時に、一部の裁判所は、重い案件処理を支援するためにAIシステムの試験運用を行っている。