Según la presentación legal de Google, la empresa demandó el mes pasado a la red china de ciberdelincuencia Outsider Enterprise por usar la IA Gemini para automatizar estafas de phishing. Operando a través de Telegram, Outsider Enterprise proporcionó instrucciones sobre cómo usar Gemini para crear sitios web fraudulentos que imitan a Google, YouTube y agencias gubernamentales, ofreciendo a los usuarios casi 300 plantillas de estafa.
Las estafas habilitadas por la red dieron lugar a más de 2,5 millones de mensajes de texto enviados a usuarios de Android, con 55.000 mensajes enviados durante un periodo de dos semanas el mes pasado. Google ha rastreado 9.000 sitios web falsos y 1 millón de URLs vinculadas a la operación. Google trabajó con AT&T, Verizon y T-Mobile para bloquear los mensajes maliciosos.