FSB Defende Controles para IA Agêntica nas Finanças em Meio a um Aumento na Adoção

O Conselho de Estabilidade Financeira (FSB) divulgou um relatório na quarta-feira, 10 de junho, pedindo controles mais rigorosos para sistemas de IA agentic no setor financeiro. O FSB citou riscos de IA autônoma que podem se materializar em alta velocidade, incluindo ações não autorizadas, violações de dados e interrupção de sistemas conectados. As orientações respondem à adoção acelerada de uma IA capaz de planejar, raciocinar e executar tarefas com supervisão humana limitada em detecção de fraudes, atendimento ao cliente e funções do back-office.

Relatórios do Setor Financeiro: 52% de Adoção Ativa de IA Agentic

De acordo com uma pesquisa do Cambridge Centre for Alternative Finance, 52% dos entrevistados do setor financeiro relataram adoção ativa de IA agentic. Desses, 23% estão escalando ou transformando operações, enquanto 29% estão fazendo pilotos de funções agentic. IA agentic se refere a sistemas capazes de planejar, raciocinar e executar tarefas com supervisão humana limitada.

Reguladores e organismos globais de definição de padrões aumentaram os alertas sobre riscos de IA desde que a Anthropic lançou Mythos, que especialistas consideram representar desafios significativos de cibersegurança para a indústria bancária.

FSB Identifica Riscos de Velocidade e Autonomia em Sistemas de IA

O relatório do FSB afirmou que a IA autônoma introduz riscos que podem "se materializar em alta velocidade". O órgão de padronização alertou que agentes de IA poderiam buscar ações que se desviem das intenções das empresas sem que a equipe esteja ciente ou consiga intervir rapidamente. O relatório destacou que "agentes de IA representam um desafio distinto para a supervisão humana".

Os riscos identificados incluem a possibilidade de ações não autorizadas ou ilegais, violações de dados e interrupção de sistemas conectados.

Medidas de Proteção Propostas incluem Limites de Aprovação Humana e Prazo para Feedback

O FSB detalhou uma série de "boas práticas" propostas em diretrizes não vinculativas, abertas a feedback até 22 de julho. As recomendações pedem que as empresas financeiras definam limites claros para o uso de IA e incorporem salvaguardas.

As medidas propostas incluem limites sobre o que agentes de IA podem fazer e exigências de aprovação humana para ações de alto risco, como transações financeiras acima de certos limiares. O FSB também sugeriu que as empresas considerem adaptar controles e processos de RH para agentes de IA de uma forma que os trate como "funcionários sintéticos".

FAQ

O que o Conselho de Estabilidade Financeira divulgou em 10 de junho?

O Conselho de Estabilidade Financeira divulgou um relatório na quarta-feira, 10 de junho, pedindo controles mais rigorosos para sistemas de IA agentic no setor financeiro. O relatório descreveu "boas práticas" propostas, incluindo limites sobre ações de agentes de IA e requisitos de aprovação humana para tarefas de alto risco.

Quão amplamente a IA agentic é adotada no setor financeiro?

De acordo com uma pesquisa do Cambridge Centre for Alternative Finance, 52% dos entrevistados do setor financeiro relataram adoção ativa de IA agentic. Desses, 23% estão escalando ou transformando operações, enquanto 29% estão fazendo pilotos de funções agentic. A IA agentic é usada para detecção de fraudes, atendimento ao cliente e funções do back-office.