あるドイツの裁判所は、GoogleのAI Overviews機能でなされた誤った発言について、Googleに責任があるとの判断を下した。これは、2人の出版社が詐欺や疑わしいビジネス慣行に誤って結び付けられた事案である。この判断は、本年はじめに出版社側が差し止め（cease-and-desist）書簡を送ったにもかかわらず、Googleが誤解を招く出力を訂正できなかったことを受けて下された。裁判所はAI Overviewsを従来の検索エンジンと区別し、Googleのツールがインターネット上のリンクをGoogle自身が誤って解釈した結果として、独立した実質的な発言を行っていたと認定した。さらに、基盤となるアルゴリズムはGoogleだけが修正できるため、同社は誤りのある主張について責任を負わなければならないとした。
ドイツの裁判所、AI Overviewsを従来の検索結果と切り分け
この訴訟はThe Decoderによって報じられ、GoogleのAI Overviewsが出版社2社を誤って詐欺や怪しいビジネス慣行と結び付けていることを彼らが見つけたことで発覚した。GoogleのAIは、「はい、[it]は疑わしいビジネス慣行で知られており、しばしば詐欺だと認識されています」といった肯定的な断定を行い、出版社の評判を傷つけた。
Googleは、多くのユーザーはAIの出力が常に正確とは限らず、検証が必要だと理解しているのだとして、責任を免れようとした。だが裁判所はこの主張を退けた。裁判所は、第三者の発言へのリンク一覧を単に提示するだけの従来の検索エンジンとは異なり、Googleのツールはインターネット上のリンクをGoogle自身が誤って解釈したことに基づき、「独立していて、新しく、実質的な」発言を行ったと判断した。
裁判所は、出版社はGoogleの検索結果に表示される名誉毀損的な発言について第三者を訴えることはできたとしても、AI Overviewsに表示される出力と、その根本となるアルゴリズムを修正できるのはGoogleだけだと強調した。今回の裁判で、AIの概要は「検索結果にはまったく出てこない内容の発言を含んでいる」ため、Googleの主張は特に弱いと裁判所は見なした。
裁判所、Googleに対して仮差し止め命令を発出
裁判所は、Googleが今後のいかなるAI Overviewsにおいても虚偽の主張を広めることを禁じる仮差し止め命令を出した。この判断は世界的な影響を持つ可能性がある。なぜなら、裁判所はAI音声（AI speech）についてAI企業の責任を認めるのは初めてだと思われるためだ。
これまで、AI企業は、信頼できない出力に関する訴訟から身を守るために、不正確な情報に関する警告（ディスクレーマー）に頼ってきた。昨年、あるチャットボットの開発者は、AIの発言は「純粋な発言（pure speech）」という別カテゴリーであり、修正第1条によって保護されるべきだと主張した。
よくある質問（FAQ）
ドイツの裁判所はGoogleのAI Overviewsについて何と判断したのですか？
ドイツの裁判所は、GoogleのAI Overviewsにおける誤った発言について、Googleに責任があると判断した。裁判所は、GoogleのAIツールがインターネット上のリンクの誤解釈に基づき、独立した実質的な発言を行っており、リンク集だけを提示するにすぎない従来の検索エンジンとは区別されると認定した。
この件で、裁判所がGoogleの防御（主張）を退けた理由は何ですか？
裁判所は、AI Overviewsにおける基盤となるアルゴリズムと出力はGoogleだけが修正できるため、ユーザーがAIの出力は検証が必要だと理解している、というGoogleの主張を退けた。さらに、AI概要に含まれた虚偽の発言は検索結果にはまったく登場しておらず、Googleの防御は特に弱いとも裁判所は指摘した。
