O Google entrou com uma ação judicial contra a Outsider Enterprise, uma rede de cibercriminosos com base na China, acusada de operar uma campanha de phishing com IA que mirava usuários de Android por meio de mensagens de texto e sites falsos. A empresa afirma que o grupo usou a IA Gemini do Google para criar sites fraudulentos se passando por Google, YouTube e agências governamentais, operando um modelo de phishing-as-a-service via Telegram. O Google disse que a rede estava ligada a 9.000 sites falsos, mais de 1 milhão de URLs fraudulentas e 2,5 milhões de mensagens de texto enviadas a usuários de Android, com cerca de 55.000 textos de spam sinalizados durante um período de duas semanas em maio. Este é o primeiro caso em que o Google tomou uma ação legal direta contra um grupo acusado de usar o Gemini como parte de um fluxo de golpes. A ação destaca a mudança de preocupações abstratas sobre mau uso de IA para operações de fraude documentadas, já que ferramentas de IA generativa diminuem as barreiras técnicas para criminosos que buscam dimensionar campanhas de phishing.
Outsider Enterprise Operava Phishing-as-a-Service via Telegram
O Google disse que o grupo operava pelo Telegram e oferecia ferramentas de phishing-as-a-service a criminosos que não precisavam de habilidades técnicas avançadas. A rede teria fornecido instruções para usar a IA Gemini do Google na criação de sites fraudulentos que imitavam o Google, o YouTube e agências governamentais, incluindo o sistema E-ZPass do estado de Nova York.
O Google disse que o grupo ofereceu quase 300 modelos de golpes e estava ligado a 9.000 sites falsos e mais de 1 milhão de URLs fraudulentas. A campanha resultou no envio de mais de 2,5 milhões de mensagens de texto para usuários de Android, incluindo cerca de 55.000 textos de spam sinalizados durante um período de duas semanas em maio.
As mensagens frequentemente alertavam os usuários sobre problemas de conta, questões de encomendas, pagamentos de pedágio ou outras alegações urgentes. As vítimas que clicavam nos links eram direcionadas a sites falsos projetados para parecer legítimos, nos quais os atacantes tentavam roubar informações pessoais, dados bancários e credenciais de pagamento.
Suposto Uso de IA Gemini para Gerar Sites Fraudulentos em Escala
O suposto uso de IA generativa muda a economia do phishing. Páginas de fraude que antes exigiam trabalho manual de design agora podem ser produzidas mais rapidamente, adaptadas entre marcas e implantadas por meio de modelos prontos. Isso reduz a barreira para criminosos menos técnicos e permite que redes de golpes escalem campanhas em milhares de URLs.
Para empresas de tecnologia, o caso também destaca uma tensão difícil de produto. Sistemas de IA são construídos para seguir instruções e gerar saídas bem acabadas, mas essas mesmas capacidades podem ser usadas indevidamente para produzir sites falsos convincentes, mensagens de atendimento ao cliente e páginas de imitação de marca. Barreiras de proteção mais fortes podem reduzir abusos, mas atacantes muitas vezes buscam prompts indiretos, reutilização de modelos ou fluxos externos que contornam a detecção.
Google Coordena com o FBI e Operadoras de Telecom para Bloquear Mensagens Maliciosas
O Google disse que está trabalhando com a divisão de cibercrimes do FBI em uma investigação criminal paralela e que também coordenou com AT&T, Verizon e T-Mobile para bloquear mensagens de texto maliciosas ligadas à campanha.
A empresa também apontou suas próprias defesas de produto. O Google disse que suas ferramentas de mensagens interceptam mais de 10 bilhões de mensagens maliciosas por mês, enquanto a detecção de golpes no Android pode sinalizar chamadas e contatos suspeitos em tempo real. Essas defesas podem ter limitado o número de tentativas de phishing bem-sucedidas, embora o Google não tenha estimado quanto dinheiro foi roubado nas campanhas da Outsider Enterprise.
O desafio é que os operadores do grupo permanecem não identificados. Mesmo que nomes sejam eventualmente estabelecidos, a aplicação da lei se torna mais difícil quando os supostos perpetradores estão fora dos Estados Unidos. O Google pode perseguir domínios fraudulentos, contas no Telegram, infraestrutura de hospedagem e ativos relacionados, mas a operação subjacente pode mudar para novas marcas, novos domínios ou novos canais de entrega.
“Criminosos estão cada vez mais usando IA para tornar fraudes como esta mais convincentes e difíceis de detectar”, disse Brett Leatherman, do FBI Cyber Division.
Google Apoia Legislação Federal que Mira Golpes com Assistência de IA
O Google está usando a ação judicial para renovar o apoio a uma legislação federal voltada a golpes com assistência de IA, manipulação de mercado e conscientização pública. A empresa apoiou várias propostas bipartidárias, incluindo o National Strategy for Combating Scams Act, o Strategic Task Force on Scam Prevention Act, o AI Plan Act e o Stop SCAMS Against Seniors Act.
A maior parte das propostas de legislação direcionaria agências federais a coordenarem com mais proximidade a fraude habilitada por IA, criar forças-tarefa ou melhorar a educação pública sobre usos maliciosos de IA. Essa abordagem reflete uma visão crescente de que a prevenção de fraudes não pode ser tratada apenas pela moderação privada de plataformas ou por ações judiciais posteriores.
O problema mais amplo de política pública é que golpes gerados por IA se tornarão mais difíceis de identificar à medida que os modelos evoluem. Campanhas de conscientização podem ajudar os usuários a reconhecer táticas comuns, mas atacantes provavelmente continuarão refinando mensagens, páginas e técnicas de personificação. Isso deixa grandes empresas de tecnologia com uma carga dupla: criar produtos de IA que as pessoas queiram usar enquanto impede que essas mesmas ferramentas se tornem infraestrutura para fraudes em escala industrial.
FAQ
O que o Google acusou a Outsider Enterprise de fazer?
O Google acusou a Outsider Enterprise, uma rede de cibercriminosos baseada na China, de operar uma operação de phishing com IA que usou a IA Gemini do Google para criar sites falsos se passando por Google, YouTube e agências governamentais. O grupo teria operado um modelo de phishing-as-a-service via Telegram, fornecendo quase 300 modelos de golpes para criminosos. O Google disse que a rede estava ligada a 9.000 sites falsos, mais de 1 milhão de URLs fraudulentas e 2,5 milhões de mensagens de texto enviadas a usuários de Android.
Como o Google está trabalhando para interromper a operação de phishing?
O Google disse que está trabalhando com a divisão de cibercrimes do FBI em uma investigação criminal paralela e que coordenou com AT&T, Verizon e T-Mobile para bloquear mensagens de texto maliciosas ligadas à campanha. A empresa também afirmou que suas ferramentas de mensagens interceptam mais de 10 bilhões de mensagens maliciosas por mês, e que a detecção de golpes no Android pode sinalizar chamadas e contatos suspeitos em tempo real. O Google está perseguindo domínios fraudulentos, contas no Telegram e infraestrutura de hospedagem associadas à rede.
Que legislação federal o Google apoia para combater golpes com assistência de IA?
O Google apoiou várias propostas bipartidárias, incluindo o National Strategy for Combating Scams Act, o Strategic Task Force on Scam Prevention Act, o AI Plan Act e o Stop SCAMS Against Seniors Act. A maior parte das propostas de legislação direcionaria agências federais a coordenarem com mais proximidade a fraude habilitada por IA, criar forças-tarefa ou melhorar a educação pública sobre usos maliciosos de IA.
