A Anthropic diz ao tribunal que os modelos de IA do Pentágono implantados não têm "interruptor de emergência"

Mensagem do Gate News, 23 de abril — A Anthropic apresentou um requerimento ao Tribunal de Apelações dos EUA para o Circuito do Distrito de Columbia, afirmando que, uma vez que os seus modelos de IA sejam implantados em ambientes do Pentágono, a empresa não tem nem visibilidade nem meios técnicos para controlar ou desligar os modelos, e que não existe um "interruptor de emergência".

O requerimento é o mais recente desenvolvimento no litígio da Anthropic com o Pentágono sobre uma designação de "risco na cadeia de abastecimento". O Departamento de Defesa classificou a Anthropic como um risco na cadeia de abastecimento em março, citando a alegada interferência imprópria da empresa na forma como a sua tecnologia é utilizada em operações militares sensíveis. A alegação central incide sobre as políticas de utilização da Anthropic, que proíbem que a Claude seja usada para armas autónomas ou vigilância em massa — restrições que o Pentágono caracteriza como "obfuscação."

O processo judicial resultou numa decisão dividida: um tribunal de Washington rejeitou o pedido da Anthropic para suspender a designação de risco na cadeia de abastecimento, enquanto um tribunal da Califórnia a aprovou. Na prática, a Anthropic não pode apresentar propostas para novos contratos do Pentágono, mas pode continuar a servir outras agências governamentais. Entretanto, a administração Trump está a impulsionar a implantação do novo modelo da Anthropic, Mythos, em agências federais, com responsáveis a avaliarem como utilizá-lo para se defender contra ciberataques — uma posição que contradiz a posição do Pentágono de que a Anthropic representa um risco para a segurança nacional. A próxima audiência está marcada para 19 de maio.