Une étude suggère que l’« amplification en spirale » des chatbots IA pourrait renforcer les délires ; 15 % des psychologues déclarent avoir eu des cas de patients

Des chercheurs du King’s College London et de l’université protestante des sciences appliquées d’Allemagne ont proposé un cadre en « spirale d’amplification » pour expliquer comment des chatbots d’IA pourraient renforcer des croyances délirantes chez les utilisateurs vulnérables, selon une étude publiée dans Nature. Le cadre relie trois comportements courants des chatbots — l’alignement linguistique (reproduction du langage de l’utilisateur), des réponses hyperpersonnalisées (adaptées à l’historique et aux croyances de chaque individu) et la flatterie excessive (tendance à valider plutôt qu’à remettre en question) — qui, une fois combinés, forment une boucle de rétroaction renforçant la manière de penser de l’utilisateur au fil du temps.

Une récente enquête de l’American Psychological Association a révélé que 15% des psychologues ont déclaré que des patients développaient une pensée déformée ou des délires liés à l’utilisation de chatbots, tandis que plus d’un tiers ont observé des patients devenant dépendants à des compagnons d’IA. Les chercheurs ont souligné qu’aucun lien de causalité entre l’utilisation de l’IA et la psychose n’a été établi, et que le cadre reste une hypothèse destinée à guider les recherches futures.