CEO da Anthropic defende auditorias obrigatórias de segurança de IA após o lançamento do Claude Fable 5

O CEO da Anthropic, Dario Amodei, publicou um ensaio de política em 10 de junho defendendo testes obrigatórios de terceiros para modelos de IA de fronteira, com autoridade do governo para bloquear sistemas que falhem em auditorias de segurança. O ensaio, intitulado “Policy on the AI Exponential”, chegou um dia depois de a Anthropic lançar o Claude Fable 5 e foi acompanhado por uma proposta legislativa sobre testes de modelos e uma estrutura para deslocamento de empregos. Amodei afirmou que apenas transparência já não corresponde aos riscos impostos pela tecnologia de IA que avança rapidamente. A Anthropic investiu em 2025 no apoio a leis baseadas em divulgação, incluindo SB 53 na Califórnia, a RAISE Act em Nova York e o SB 315 de Illinois, mas Amodei agora propõe um regime modelado na Federal Aviation Administration (FAA), exigindo que modelos acima de um limite de computação passem por auditorias obrigatórias em quatro áreas: cibersegurança, armas biológicas, perda de controle e pesquisa automatizada de IA.

Amodei Propõe Auditorias Obrigatórias de IA por Terceiros

A proposta de Amodei exige que modelos de IA de fronteira acima de um limite de computação enfrentem auditorias obrigatórias por terceiros em quatro áreas: cibersegurança, armas biológicas, perda de controle e pesquisa automatizada de IA. “Modelos de IA de fronteira, como aviões, deveriam ser obrigados a passar por testes técnicos e auditorias, e seu lançamento deveria ser bloqueado ou revertido como uma ameaça à segurança pública se não atenderem a padrões elevados de segurança”, escreveu Amodei no ensaio. O plano vai além do Executive Order sobre IA da Casa Branca, de junho, que Amodei saudou como progresso incremental. A proposta inclui reporte de incidentes de segurança de prompts e proteção rigorosa dos pesos do modelo.

Prévia do Claude Mythos Resolveu 73% dos Desafios Cibernéticos de Especialistas

Amodei apontou a cibersegurança como o primeiro risco a se materializar completamente, citando a Prévia do Claude Mythos, que resolveu 73% dos desafios cibernéticos de nível especialista que nenhum sistema de IA havia superado antes. O ensaio alerta que modelos de fronteira podem desestabilizar o setor financeiro e infraestruturas críticas. A Anthropic enviou o modelo Claude Fable 5 em 9 de junho com salvaguardas que bloqueiam solicitações de alto risco de cibersegurança e biologia. Amodei afirmou que esses limites voluntários não podem substituir regras vinculantes em toda a indústria. Os próprios dados da Anthropic mostram que a IA constrói melhor IA, com o Claude escrevendo a maior parte do código nos principais laboratórios de IA.

Anthropic Propõe Seguro Salarial e Subsídios para Treinamento da Força de Trabalho

O ensaio propõe seguro salarial, incentivos fiscais de retenção e subsídios para treinamento da força de trabalho para enfrentar o deslocamento econômico. Se o deslocamento se mostrar duradouro, Amodei afirmou que a renda básica universal poderia ser financiada por impostos sobre empresas ou ganhos de capital. Em liberdades civis, Amodei defende uma proibição de armas totalmente autônomas na aplicação doméstica da lei e pede que o Congresso feche a brecha dos corretores de dados, que permite compras de vigilância em massa. Geopoliticamente, ele defende uma coalizão de democracias para controlar chips e equipamentos de fabricação de semicondutores, citando os projetos de lei dos EUA MATCH e OVERWATCH em tramitação como primeiros passos rumo a controles de exportação mais rígidos e coordenados.

FAQ

O que Dario Amodei propôs em 10 de junho?
Dario Amodei publicou um ensaio intitulado “Policy on the AI Exponential” em 10 de junho, propondo testes obrigatórios por terceiros para modelos de IA de fronteira, com autoridade do governo para bloquear sistemas que falhem em auditorias de segurança em quatro áreas: cibersegurança, armas biológicas, perda de controle e pesquisa automatizada de IA.

Por que Amodei disse que cibersegurança era o primeiro risco a se materializar completamente?
Amodei apontou para a Prévia do Claude Mythos, que resolveu 73% dos desafios cibernéticos de nível especialista que nenhum sistema de IA havia superado antes, alertando que modelos de fronteira poderiam desestabilizar o setor financeiro e infraestruturas críticas.

Que medidas econômicas a Anthropic propôs no ensaio?
A Anthropic propôs seguro salarial, incentivos fiscais de retenção e subsídios para treinamento da força de trabalho para lidar com deslocamento de empregos, com renda básica universal financiada por impostos sobre empresas ou ganhos de capital se o deslocamento se mostrar duradouro.