OpenAI ajoute ChatGPT personnalisé à la plateforme du Pentagone alors qu'un expert met en garde contre les risques

En résumé

• OpenAI a annoncé qu'il déployait une version personnalisée de ChatGPT sur GenAI.mil, la plateforme d'IA développée par le Département de la Défense américain.
• Le système est approuvé pour des travaux non classifiés du Département de la Défense, avec des données séparées des modèles publics d'OpenAI.
• Les critiques mettent en garde contre le risque d'erreur humaine et la confiance excessive dans les systèmes d'IA.

OpenAI a déclaré lundi qu'il déployait une version personnalisée de ChatGPT sur GenAI.mil, la plateforme d'IA développée par le Département de la Défense des États-Unis. Cette initiative étend l'accès de l'armée à des modèles d'IA générative puissants, même si les critiques avertissent que l'erreur de l'utilisateur reste un risque de sécurité majeur. ChatGPT rejoint une liste croissante de modèles d'IA mis à disposition de l'armée américaine, notamment Gemini et Grok de Google, ainsi que le système d'IA développé par xAI, intégré à SpaceX plus tôt ce mois-ci.

« Nous croyons que les responsables de la défense du pays devraient avoir accès aux meilleurs outils disponibles, et il est important pour les États-Unis et d'autres pays démocratiques de comprendre comment, avec les protections appropriées, l'IA peut aider à protéger les personnes, dissuader les adversaires et prévenir les conflits futurs », a déclaré OpenAI dans un communiqué. OpenAI a indiqué que la version de ChatGPT pour GenAI.mil est approuvée pour une utilisation non classifiée par le Département de la Défense et fonctionnera dans une infrastructure cloud gouvernementale autorisée. Selon OpenAI, le système comprend des mesures de sécurité conçues pour protéger les données sensibles. Cependant, J.B. Branch, défenseur de la responsabilité des grandes entreprises technologiques chez Public Citizen, a averti que la dépendance excessive des utilisateurs à l'IA pourrait compromettre ces protections.

« La recherche montre que lorsque les gens utilisent ces grands modèles de langage, ils ont tendance à leur accorder le bénéfice du doute », a déclaré Branch à Decrypt. « Donc, dans des situations à fort impact comme dans l'armée, il est encore plus important de s'assurer qu'ils donnent des réponses correctes. » Ce déploiement intervient alors que le Pentagone accélère l’adoption de l’IA commerciale dans ses réseaux militaires et que les développeurs d’IA cherchent à réaliser des profits. En janvier, le secrétaire à la Défense Pete Hegseth a déclaré que le département prévoit de déployer des modèles d’IA de premier plan sur des réseaux militaires tant non classifiés que classifiés. Bien qu’OpenAI ait précisé que la version personnalisée de ChatGPT est destinée uniquement aux données non classifiées, Branch a averti que le fait d’y introduire des informations sensibles les rend vulnérables face aux adversaires, ajoutant que les utilisateurs confondent souvent ces outils avec des coffres-forts sécurisés. « Les informations classifiées doivent être accessibles uniquement à un certain nombre de personnes », a-t-il expliqué. « Même si vous avez un système de coupure qui n’est autorisé qu’au sein de l’armée, cela ne change pas le fait que les données classifiées sont destinées à un groupe limité de personnes. » OpenAI n’a pas immédiatement répondu à une demande de commentaire de Decrypt.