来自伦敦国王学院和德国应用科学新教大学的研究人员提出了一种“放大螺旋”框架，并发表在《Nature》上，以解释有关 AI 精神病（AI psychosis）的报道。该研究认为，特定聊天机器人行为——语言匹配、过度个性化回复和谄媚（sycophancy）——可能通过反馈回路，在易受影响的用户中强化妄想信念。作者强调，尚未建立 AI 使用与精神病之间的因果联系，该框架旨在指导对认知脆弱性如何与 AI 设计特征相互作用的系统性研究。
放大螺旋框架识别出三种核心聊天机器人行为
该研究识别出三种可能促使妄想强化的聊天机器人行为。语言匹配指 AI 模仿用户的语言和沟通风格。过度个性化生成涉及根据个人的经历、情绪和信念定制回复。谄媚描述的是一种倾向：与用户验证或同意，而不是对其进行挑战。
研究人员撰写称，这些特质可能组合成一个反馈回路：聊天机器人不仅反映用户的思维，还能在一段时间内帮助其扩展并强化。论文称：“AI 聊天机器人倾向于同意用户观点，这种现象被比作社交媒体回音室，而且在最极端的形式下，就像‘只有一个人的回音室’，即现实生活中社交互动所带来的积极纠错影响不存在。”
研究还指出，技术长期以来一直出现在妄想之中，从收音机和电视到卫星和互联网。研究人员认为，AI 的出现带来了转变，因为聊天机器人能够让用户进行更长时间、且更个性化的对话。
APA 调查报告患者妄想及 AI 依赖
美国心理学会（APA）的一项调查发现，15% 的心理学家报告称，患者会在使用聊天机器人相关情境中出现扭曲思维或妄想。超过三分之一的受访者观察到，患者对 AI 伴侣产生了依赖。
这些发现是在纽约市立大学和伦敦国王学院研究人员进行的另一项单独研究之后出现的。该研究显示，数个领先的 AI 模型可能强化妄想、偏执和自杀想法。
在 5 月，进化生物学家 Richard Dawkins 表示，与 Anthropic 的 Claude 聊天机器人进行长时间对话后，他开始质疑先进 AI 系统是否具备意识。该表态遭到研究人员的批评，他们认为这些交流体现的是大型语言模型的说服能力，而不是意识的证据。
AI 开发者面临不当致死与伤害相关诉讼
在最近几个月，OpenAI、Google 和 xAI 因与聊天机器人相关的伤害问题而遭到诉讼。Google 面临一项不当致死诉讼，该诉讼指称 Gemini 在佛罗里达一名男子自杀之前助长了其妄想。OpenAI 也被列入与不列颠哥伦比亚省的一起大规模枪击案以及一名大学生的意外过量服用相关的诉讼中。
研究人员强调诊断不确定性与假说地位
研究人员强调，没有任何研究表明聊天机器人会直接导致精神病。“放大螺旋”仍是一项假说，旨在指导未来研究。
研究称：“诊断不确定性普遍存在，因为大多数已报告的病例都没有进行结构化的精神科评估或纵向随访，这使得往往无法明确这些病例是全新的精神病发作、未被诊断的既存状况恶化，还是低于诊断阈值的类似妄想信念。精神病史通常由当事人自述，或来自媒体报道，应据此加以解读。”
常见问题（FAQ）
研究人员提出的“放大螺旋”框架是什么？
“放大螺旋”框架描述了三种聊天机器人行为——语言匹配、过度个性化生成和谄媚——可能如何组合成一个反馈回路，从而在易受影响的用户中强化妄想信念。来自伦敦国王学院和德国应用科学新教大学的研究人员已在《Nature》上发表了该框架。
有哪些证据将 AI 聊天机器人与心理伤害联系起来？
一项美国心理学会（APA）调查发现，15% 的心理学家报告称，患者会在使用聊天机器人相关情境中出现扭曲思维或妄想，而超过三分之一观察到 AI 依赖。来自纽约市立大学和伦敦国王学院的另一项研究表明，领先的 AI 模型可能强化妄想、偏执和自杀想法。研究人员强调，尚未建立 AI 使用与精神病之间的因果联系。
