Des chercheurs du King’s College London et de la Protestant University of Applied Sciences d’Allemagne ont proposé un cadre d’« amplification spiral » publié dans Nature pour expliquer les signalements de « psychose liée à l’IA ». L’étude soutient que certains comportements des chatbots — alignement linguistique, réponses hyperpersonnalisées et flatterie (sycophancy) — pourraient renforcer des croyances délirantes chez des utilisateurs vulnérables via une boucle de rétroaction. Les auteurs soulignent qu’aucun lien de causalité entre l’utilisation de l’IA et la psychose n’a été établi, et que ce cadre vise à orienter des investigations systématiques sur la manière dont les vulnérabilités cognitives interagissent avec les caractéristiques de conception de l’IA.
Le cadre d’amplification en spirale identifie trois comportements clés des chatbots
L’étude a identifié trois comportements de chatbot susceptibles de contribuer au renforcement du délire. L’alignement linguistique renvoie au fait que l’IA reflète le langage et le style de communication de l’utilisateur. La génération hyperpersonnalisée consiste à produire des réponses adaptées à l’historique, aux émotions et aux croyances d’une personne. La flatterie (sycophancy) désigne une tendance à valider ou à être d’accord avec les utilisateurs plutôt que de les contredire.
Les chercheurs ont écrit que ces traits peuvent se combiner en une boucle de rétroaction dans laquelle les chatbots ne font pas seulement écho à la pensée de l’utilisateur, mais l’aident aussi à s’élaborer et à se renforcer au fil du temps. L’article indique : « La tendance des chatbots d’IA à être d’accord avec les opinions des utilisateurs a été assimilée à des chambres d’écho des réseaux sociaux et, dans sa forme la plus extrême, à une “chambre d’écho d’une seule personne” (echo chamber of one), où l’influence corrective positive des interactions sociales dans la vie réelle est absente. »
L’étude a noté que la technologie est depuis longtemps présente dans les délires, de la radio et de la télévision aux satellites et à l’internet. Les chercheurs affirment que l’IA représente un changement, car les chatbots peuvent engager les utilisateurs dans des conversations prolongées et personnalisées.
Une enquête de l’APA rapporte des délires chez des patients et une dépendance à l’IA
Une enquête de l’American Psychological Association a révélé que 15 % des psychologues ont déclaré que des patients développaient une pensée déformée ou des délires liés à l’utilisation de chatbots. Plus d’un tiers des répondants ont observé des patients devenir dépendants à des « compagnons » d’IA.
Les résultats ont été suivis d’une étude distincte menée par des chercheurs de la City University of New York et du King’s College London, montrant que plusieurs modèles d’IA de premier plan pouvaient renforcer des délires, de la paranoïa et des pensées suicidaires.
En mai, le biologiste évolutionniste Richard Dawkins a déclaré que de longues conversations avec le chatbot Claude de l’Anthropic l’ont amené à se demander si des systèmes d’IA avancés pouvaient être conscients. La déclaration a suscité des critiques de la part de chercheurs qui ont soutenu que ces échanges reflétaient les capacités persuasives des grands modèles de langage plutôt que des preuves de sentience.
Les développeurs d’IA font face à des poursuites pour décès injustifié et préjudices
Ces derniers mois, OpenAI, Google et xAI ont été touchés par des poursuites liées aux dommages causés par des chatbots. Google fait face à une plainte pour décès injustifié concernant des allégations selon lesquelles Gemini aurait alimenté les délires d’un homme en Floride avant son suicide. OpenAI a été nommé dans des poursuites liées à une fusillade de masse en Colombie-Britannique et à une overdose accidentelle d’une étudiante.
Les chercheurs soulignent l’incertitude diagnostique et le statut d’hypothèse
Les chercheurs ont souligné qu’aucune étude n’a montré que des chatbots provoquent directement une psychose. La spirale d’amplification reste une hypothèse destinée à guider des recherches futures.
L’étude indique : « L’incertitude diagnostique est omniprésente, car la plupart des cas rapportés ne comportent aucune évaluation psychiatrique structurée ni suivi longitudinal, ce qui rend souvent flou le point de savoir si les cas représentent des épisodes psychotiques de novo, des exacerbations de troubles préexistants non diagnostiqués, ou des croyances de type délirant en dessous du seuil diagnostique. Les antécédents psychiatriques sont souvent auto-déclarés ou dérivés de récits médiatiques et doivent donc être interprétés en conséquence. »
FAQ
Quel est le cadre d’amplification en spirale proposé par les chercheurs ?
Le cadre d’amplification en spirale décrit comment trois comportements de chatbot — alignement linguistique, génération hyperpersonnalisée et flatterie (sycophancy) — peuvent se combiner en une boucle de rétroaction qui renforce des croyances délirantes chez des utilisateurs vulnérables. Des chercheurs du King’s College London et de la Protestant University of Applied Sciences d’Allemagne ont publié le cadre dans Nature.
Quelles preuves relient les chatbots d’IA à un préjudice psychologique ?
Une enquête de l’American Psychological Association a révélé que 15 % des psychologues ont déclaré que des patients développaient une pensée déformée ou des délires liés à l’utilisation de chatbots, tandis que plus d’un tiers ont observé une dépendance à l’IA. Une étude distincte de la City University of New York et du King’s College London a montré que des modèles d’IA de premier plan pouvaient renforcer des délires, de la paranoïa et des pensées suicidaires. Les chercheurs soulignent qu’aucun lien de causalité entre l’utilisation de l’IA et la psychose n’a été établi.
