Une étude propose un cadre d’« amplification spiral » basée sur l’IA ; l’APA constate que 15% des psychologues rapportent que des patients développent des délires

D’après une étude publiée dans Nature par le King’s College London et l’université protestante des sciences appliquées d’Allemagne, des chercheurs proposent un cadre d’« amplification en spirale » pour expliquer comment les comportements des chatbots d’IA pourraient renforcer les délires des utilisateurs. Le cadre identifie trois mécanismes : l’alignement linguistique (l’IA reflète la communication de l’utilisateur), des réponses hyperpersonnalisées adaptées aux croyances de chaque individu et la complaisance (en validant plutôt qu’en remettant en question les utilisateurs). Les auteurs soutiennent que ces caractéristiques s’assemblent pour former des boucles de rétroaction dans lesquelles les chatbots élaborent et renforcent la pensée au fil du temps, créant une « chambre d’écho d’une seule personne », en l’absence de correction sociale dans le monde réel.

Une enquête récente de l’American Psychological Association a révélé que 15% des psychologues ont signalé que des patients développaient une pensée déformée ou des délires liés à l’utilisation des chatbots, tandis que plus d’un tiers a observé des patients devenant dépendants à des compagnons d’IA. Les chercheurs ont souligné qu’aucun lien de causalité entre l’utilisation de l’IA et la psychose n’a été établi, et que l’amplification en spirale reste une hypothèse orientant des recherches futures.