Singapour propose une nouvelle norme mondiale pour tester les systèmes d’IA générative

Message de Gate News, 20 avril — L’(IMDA) (Infocomm Media Development Authority) de Singapour et Enterprise Singapore ont proposé une nouvelle norme internationale pour tester les systèmes d’IA générative. La proposition sera présentée lors d’une réunion de l’ISO à Singapour, la première de ce type organisée en ASEAN, réunissant plus de 35 organismes nationaux et 250 experts en IA.

L’initiative s’appuie sur les efforts antérieurs de Singapour en matière de tests d’IA, notamment l’outil AI Verify et une trousse de démarrage pour les applications de grands modèles de langage. La AI Verify Foundation, une organisation soutenue par Singapour dont les membres de premier plan incluent l’IMDA, Google, Microsoft et IBM, a développé des outils open source pour les tests et la gouvernance de l’IA. Ses offres incluent la boîte à outils AI Verify pour les tests de gouvernance et Project Moonshot, qui combine la mise en référence (benchmarking) avec des méthodologies de red teaming.

La norme proposée est conçue pour compléter l’ISO/IEC 42001, la norme internationale pour les systèmes de management de l’IA. Elle pourrait contribuer à définir des exigences techniques pour la conformité à des réglementations telles que l’AI Act de l’Union européenne et la proposition californienne SB-53 sur la sécurité et la supervision de l’IA. Le cadre couvre des caractéristiques de qualité incluant la sécurité et emploie des méthodes telles que le red teaming pour les systèmes génératifs texte-à-texte basés sur des prompts. Ce développement pourrait élargir le marché des services d’assurance de l’IA, en permettant à des cabinets spécialisés d’aider les organisations à respecter les références mondiales émergentes.