根据 King's College London 和德国应用科学大学在《Nature》上发表的一项研究,研究人员提出一种“放大螺旋”框架,用于解释 AI 聊天机器人行为可能如何强化用户的妄想。该框架识别出三种机制:语言一致性(AI 对用户沟通方式的镜像)、高度个性化的回应(根据个人信念定制)、以及迎合型回应(对用户进行认可而非挑战)。作者认为,这些特质会共同构成反馈回路,使聊天机器人在一段时间内不断扩展并强化思维,从而形成一种“单人回声室”,而这种纠正缺少现实世界中的社交校正。
美国心理学会最近的一项调查发现,15% 的心理学家报告称,患者在使用聊天机器人后出现扭曲思维或与之相关的妄想;与此同时,超过三分之一的人观察到患者对 AI 伴侣产生了依赖。研究人员强调,目前尚未建立 AI 使用与精神病之间的因果联系,而“放大螺旋”仍是用于指导未来研究的假设。