Le FSB appelle à des contrôles pour l’IA agentique dans la finance, au milieu d’une hausse de l’adoption

Le Conseil de stabilité financière a publié un rapport mercredi 10 juin, appelant à renforcer les contrôles sur les systèmes d’IA agentique dans le secteur financier. Le CFSF a cité des risques liés à une IA autonome pouvant se matérialiser à très grande vitesse, notamment des actions non autorisées, des violations de données et des perturbations des systèmes connectés. Cette orientation répond à l’adoption accélérée d’une IA capable d’élaborer des plans, de raisonner et d’exécuter des tâches avec une supervision humaine limitée, dans la détection de la fraude, le service client et les fonctions back-office.

Rapports du secteur financier 52% d’adoption active de l’IA agentique

D’après une enquête du Cambridge Centre for Alternative Finance, 52% des répondants du secteur financier déclarent avoir une adoption active de l’IA agentique. Parmi eux, 23% étendent ou transforment leurs opérations, tandis que 29% testent des fonctions agentiques. L’IA agentique désigne des systèmes capables d’élaborer des plans, de raisonner et d’exécuter des tâches avec une supervision humaine limitée.

Les régulateurs et les organismes mondiaux de normalisation ont renforcé leurs avertissements sur les risques liés à l’IA depuis qu’Anthropic a publié Mythos, que des experts considèrent comme posant d’importants défis en cybersécurité pour l’industrie bancaire.

Le CFSF identifie des risques de vitesse et d’autonomie dans les systèmes d’IA

Le rapport du CFSF indique que l’IA autonome introduit des risques pouvant « se matérialiser à très grande vitesse ». L’organisme de normalisation a averti que des agents d’IA pourraient poursuivre des actions s’écartant des intentions des entreprises sans que le personnel en soit conscient ou ne puisse intervenir rapidement. Le rapport souligne que « les agents d’IA posent un défi distinct pour la supervision humaine ».

Les risques identifiés incluent la possibilité d’actions non autorisées ou illégales, de violations de données et de perturbations des systèmes connectés.

Des garde-fous proposés incluent des seuils d’approbation humaine et une date limite pour le retour

Le CFSF a présenté une série de « bonnes pratiques » proposées dans des lignes directrices non contraignantes, ouvertes aux retours jusqu’au 22 juillet. Les recommandations exhortent les entreprises financières à définir des limites claires à l’usage de l’IA et à intégrer des garde-fous.

Les mesures proposées incluent des limites à ce que les agents d’IA peuvent faire et des exigences d’approbation humaine pour des actions à haut risque, comme les transactions financières au-dessus de certains seuils. Le CFSF a également suggéré aux entreprises d’envisager d’adapter les contrôles et processus RH aux agents d’IA d’une manière qui les traite comme des « employés synthétiques ».

FAQ

Qu’a publié le Conseil de stabilité financière le 10 juin ?

Le Conseil de stabilité financière a publié un rapport mercredi 10 juin, appelant à renforcer les contrôles sur les systèmes d’IA agentique dans le secteur financier. Le rapport détaille des « bonnes pratiques » proposées, notamment des limites sur les actions des agents d’IA et des exigences d’approbation humaine pour les tâches à haut risque.

Dans quelle mesure l’IA agentique est-elle adoptée dans le secteur financier ?

D’après une enquête du Cambridge Centre for Alternative Finance, 52% des répondants du secteur financier déclarent avoir une adoption active de l’IA agentique. Parmi eux, 23% étendent ou transforment leurs opérations, tandis que 29% testent des fonctions agentiques. L’IA agentique est utilisée pour la détection de la fraude, le service client et les fonctions back-office.