Menurut pengajuan hukum Google, perusahaan tersebut menggugat jaringan kejahatan siber asal Tiongkok Outsider Enterprise bulan lalu karena menggunakan AI Gemini untuk mengotomatisasi penipuan phishing. Beroperasi melalui Telegram, Outsider Enterprise memberikan instruksi tentang cara menggunakan Gemini untuk membuat situs web penipuan yang meniru Google, YouTube, dan lembaga pemerintah, dengan menawarkan hampir 300 templat penipuan kepada pengguna.
Penipuan yang diaktifkan oleh jaringan itu menghasilkan lebih dari 2,5 juta pesan teks yang dikirim kepada pengguna Android, dengan 55.000 pesan dikirim selama periode dua minggu bulan lalu. Google telah melacak 9.000 situs web palsu dan 1 juta URL yang terhubung dengan operasi tersebut. Google bekerja sama dengan AT&T, Verizon, dan T-Mobile untuk memblokir pesan berbahaya itu.