Claude AI gerou citações falsas de tribunal, advogados pedem desculpas e admitem ter cometido um erro

Em um processo na Justiça Federal envolvendo demissões federais em larga escala atribuídas ao governo Trump, o advogado Jason Grieves protocolou uma declaração em 16 de maio, reconhecendo que os documentos de moção apresentados ao tribunal continham citações falsas, geradas após ele usar a plataforma de IA corporativa Anthropic Claude Console para ajudar a redigir as moções.

Linha do tempo dos fatos confirmados: processo completo na declaração de Grieves

6 de maio de manhã (confirmado): Por falta de tempo, Grieves usou o Claude Console para criar o rascunho da moção e enviou o rascunho a um advogado assistente, ao mesmo tempo em que deu instruções orais explícitas: “Este rascunho foi gerado por inteligência artificial e ela precisa revisar cuidadosamente as citações.”

6 de maio à tarde (confirmado): O advogado assistente informou a Grieves que havia revisado e verificado cada citação. O assistente identificou duas citações de casos incorretas e encontrou outro caso substituto; no entanto, as citações falsas ainda apareceram no documento final protocolado.

Na declaração, Grieves confirmou duas atribuições de responsabilidade: “Garantir que as citações estejam precisas e totalmente corretas é minha responsabilidade, e assumo toda a responsabilidade por isso”; “Os casos citados podem, em geral, apoiar nossa posição, mas permitir a inclusão de citações falsas é um erro imperdoável.”

Posicionamento confirmado do Claude Console

O Claude Console (antigo Anthropic Developer Console), lançado em março de 2023, é a plataforma de IA corporativa da Anthropic para que empresas e profissionais interajam com o modelo de IA Claude. O uso inclui redigir documentos, criar resumos, programar e fazer pesquisas. Grieves, na declaração, o descreveu como “uma plataforma de inteligência artificial de nível empresarial, com isolamento de dados”, diferenciando-se do Claude.ai voltado ao consumidor.

Contexto de precedentes confirmados sobre ‘alucinações’ de IA chegando ao tribunal

Em abril de 2026, advogados do escritório Sullivan & Cromwell já foram punidos formalmente por terem apresentado ao tribunal citações falsas de leis geradas por IA. O caso de Grieves, relacionado à ação do governo Trump de demissões federais em larga escala, inclui cortes de pessoal na FEMA e reformas propostas de proteção para servidores públicos; o tribunal ainda não divulgou decisões sobre o tratamento subsequente.

Perguntas frequentes

Como Grieves explica a atribuição de responsabilidade pelas citações falsas?

De acordo com a declaração de Grieves, ele explicou de forma clara ao advogado assistente, por via oral, que o rascunho era gerado por IA e exigiu a revisão. O assistente confirmou que revisou, mas citações falsas passaram. Grieves deixou explícito que, como sócio-gerente e signatário da petição, assume toda a responsabilidade, sem repassar a culpa ao assistente ou à própria ferramenta de IA.

Qual é a diferença entre o Claude Console e o uso comum do Claude AI?

O Claude Console (Anthropic Developer Console) é uma plataforma de IA na versão corporativa, com design de isolamento de dados e voltada para empresas e usuários profissionais; difere do Claude.ai voltado ao consumidor no processamento de dados e na estrutura de conformidade. Grieves destacou especialmente que se trata de uma “plataforma de inteligência artificial de nível empresarial, com isolamento de dados”, mas isso não impede a ocorrência de alucinações de IA (geração de citações incorretas).

Como a Justiça trata a situação de citações falsas geradas por IA?

Em abril de 2026, no caso Sullivan & Cromwell, advogados já foram punidos formalmente por problemas semelhantes. No caso de Grieves, o advogado já se desculpou formalmente perante o tribunal; o resultado específico do tratamento subsequente ainda não foi divulgado.