O CEO da Anthropic, Dario Amodei, pede regras vinculativas de segurança para IA à medida que os avanços superam a política

Em 10 de junho, o CEO da Anthropic, Dario Amodei, publicou um ensaio alertando que o desenvolvimento de IA está avançando muito mais rápido do que os sistemas políticos conseguem responder, criando uma lacuna urgente de governança. Ele propôs uma estrutura que exige testes obrigatórios de terceiros para modelos avançados antes da implantação, com avaliações de riscos de cibersegurança, uso indevido biológico e cenários de perda de controle. Os governos devem manter a autoridade para atrasar ou bloquear a implantação se os riscos forem considerados inaceitáveis.

Amodei também destacou riscos de disrupção econômica, observando que uma IA poderosa poderia substituir um grande número de trabalhadores por meio da substituição de trabalho cognitivo, potencialmente gerando crescimento rápido ao lado de uma desigualdade persistente. Ele pediu medidas de política incluindo apoio à força de trabalho, seguro-desemprego e programas de requalificação. Além disso, ele ressaltou a necessidade de democracias coordenarem sobre cadeias de suprimento de IA, padrões de segurança e políticas econômicas, comparando a importância geopolítica da IA à da energia nuclear.