根據法院文件，Google 於週五（6 月 12 日）對中國網路犯罪組織 Outsider Enterprise 提起訴訟，理由是其使用 Gemini AI 來自動化大規模釣魚攻擊。被告據稱使用 Gemini 產生用於仿冒合法電信入口的假網站之程式碼與模板，並鎖定數十萬名美國受害者，傳送旨在竊取金融憑證的訊息。
美國聯邦調查局（FBI）估計，該行動共發送 250 萬則詐騙訊息，並在多個國家建立了 8,000 個釣魚網站。被告據稱自 2023 年 7 月以來竊取了 387 萬筆信用卡號，並造成約 19 億美元的損失，相關內容載於法院文件。
