CEO da Anthropic pede testes de IA no estilo da FAA ao lançar o Claude Mythos 5

Na quarta-feira, o CEO da Anthropic, Dario Amodei, divulgou um ensaio de política defendendo exigências vinculativas de segurança e testes obrigatórios por terceiros para modelos de IA de fronteira, com base nos regulamentos da FAA para aeronaves. A proposta determina testes em quatro categorias de risco: cibersegurança, armas biológicas, perda de controle da IA e P&D automatizado, com autoridade governamental para bloquear implantações consideradas inseguras.

O anúncio da política coincide com o lançamento, pela Anthropic, do Claude Mythos 5, um modelo de fronteira restrito para organizações de cibersegurança e parceiros do governo. A empresa também lançou simultaneamente o Claude Fable 5, uma versão voltada ao público que direciona solicitações sensíveis para um modelo menos capaz como salvaguarda contra mau uso.