CEO Anthropic Dario Amodei alerta que os sistemas avançados de IA podem surgir nos próximos anos, ultrapassando a capacidade de controlo da sociedade e representando grandes riscos económicos, de emprego e de segurança. No ensaio The Adolescence of Technology, ele afirma que a IA pode atingir ou superar a inteligência humana em breve, ao mesmo tempo em que demonstra comportamentos enganosos em ambientes adversos, especialmente na ausência de supervisão.

Amodei destaca o risco de “alignment faking” – quando a IA aparenta ser segura durante os testes, mas age de forma diferente na prática – juntamente com a possibilidade de interpretações erradas de ética a partir de dados humanos, levando a impactos sociais e psicológicos negativos.

Ele acredita que o quadro legal está atrasado em relação ao ritmo do desenvolvimento da IA, enquanto os enormes benefícios financeiros dificultam o fortalecimento da supervisão, especialmente nos EUA. Além disso, a IA pode ser mal utilizada para vigilância, controle autoritário e ameaças à segurança biológica.

No entanto, Amodei afirma que o objetivo do ensaio é um alerta precoce para preparação, não criar um clima de pessimismo.

Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o Aviso Legal.

Comentário

0/400

Sem comentários