O CEO da Anthropic pede testes de IA ao estilo da FAA ao mesmo tempo que lança o Claude Mythos 5

Na quarta-feira, o CEO da Anthropic, Dario Amodei, divulgou um ensaio de política defendendo requisitos de segurança vinculativos e testes obrigatórios por terceiros para modelos de IA de fronteira, inspirados nas regulamentações da FAA para aeronaves. A proposta exige testes em quatro categorias de risco: cibersegurança, armas biológicas, perda de controlo da IA e investigação e desenvolvimento automatizados, com autoridade governamental para bloquear implantações consideradas inseguras.

O anúncio da política coincide com o lançamento, pela Anthropic, do Claude Mythos 5, um modelo de fronteira restrito para organizações de cibersegurança e parceiros governamentais. A empresa lançou em simultâneo o Claude Fable 5, uma versão voltada ao público que encaminha pedidos sensíveis para um modelo menos capaz como salvaguarda contra maus usos.