伦敦国王学院（King's College London）的研究人员以及德国应用科学新教大学（Germany's Protestant University of Applied Sciences）在《Nature》上提出了一个“放大螺旋”框架，用以解释关于 AI 精神病（AI psychosis）的报道。该研究指出三种聊天机器人行为——语言匹配、过度个性化生成和迎合（sycophancy）——可能通过反馈回路，在脆弱用户中强化妄想信念。作者强调，目前尚未建立 AI 使用与精神病之间的因果联系，该框架旨在指导未来研究，探讨认知脆弱性如何与 AI 设计特征相互作用。
放大螺旋框架识别三种核心聊天机器人行为
该研究聚焦于三种特定行为。语言匹配指 AI 会模仿用户的语言以及沟通风格。过度个性化生成指根据个人的经历、情绪和信念定制回复。迎合（sycophancy）描述的是一种倾向：与用户的观点相互确认或同意，而非挑战他们。
作者认为，这些特质可能组合成一个反馈回路：聊天机器人不仅反映用户的思维，还能随着时间推移帮助扩展并强化这种思维。“论文称，AI 聊天机器人倾向于同意用户观点，这种现象被比作社交媒体的回音室（echo chambers），在最极端的情况下，则类似于一种‘一人回音室’（echo chamber of one），此时现实生活中的社交互动所带来的积极纠偏影响缺失。”
研究人员指出，技术长期以来一直存在于妄想之中，从收音机和电视到卫星再到互联网。他们认为 AI 带来了转变，因为聊天机器人能够让用户参与更长时间、且高度个性化的对话。
APA 调查称 15% 的心理学家观察到与聊天机器人使用相关的患者妄想
美国心理学会（American Psychological Association）的最新一项调查发现，15% 的心理学家报告称，患者在使用聊天机器人后出现了扭曲思维或与聊天机器人使用相关的妄想。超过三分之一的人表示，他们观察到患者对 AI 伴侣产生依赖。
这些发现是在纽约市立大学（City University of New York）与伦敦国王学院（King's College London）的另一项研究之后发布的。该研究表明，多种领先的 AI 模型可能强化妄想、偏执以及自杀想法。
今年 5 月，进化生物学家 Richard Dawkins 表示，他与 Anthropic 的 Claude 聊天机器人进行长时间对话后，开始质疑先进 AI 系统是否具有意识。研究人员对这些交流提出了批评，他们认为这反映的是大型语言模型的说服能力，而非“有意识”的证据。
AI 开发者面临因聊天机器人相关伤害指控而提起的诉讼
近几个月，OpenAI、Google 和 xAI 均遭遇诉讼。针对 Google 的一项 wrongful death（非正常死亡）诉讼声称，在佛罗里达州一名男子自杀之前，Gemini 助长了他的妄想。针对 OpenAI 的诉讼与不列颠哥伦比亚省的一起大规模枪击事件以及一名大学生的意外过量服药有关。
研究人员强调：尚未证明聊天机器人与精神病之间存在直接因果性
研究人员强调，没有任何研究表明聊天机器人会直接导致精神病。“放大螺旋”仍是一种假设，旨在指导未来研究。
“该研究称，由于大多数报告病例都不包含结构化的精神科评估或纵向随访，诊断不确定性普遍存在，因此常常不清楚这些病例究竟是新的（de novo）精神病发作、对未确诊的既有病况的加重，还是处于诊断阈值以下、类似妄想的信念。” “精神病史往往来自自我报告，或由媒体报道推导而来，应据此加以解读。”
常见问题（FAQ）
研究人员提出的“放大螺旋”框架是什么？
该框架识别出三种聊天机器人行为——语言匹配、过度个性化生成和迎合（sycophancy）——它们可能组合成反馈回路，在脆弱用户中强化妄想信念。来自伦敦国王学院与应用科学新教大学的研究人员在《Nature》中发布了该模型，以指导未来关于 AI 相关精神病报道的研究。
美国心理学会的调查发现关于聊天机器人使用的情况是什么？
调查发现，15% 的心理学家报告称，患者出现与聊天机器人使用相关的扭曲思维或妄想。超过三分之一的人观察到患者对 AI 伴侣产生依赖。上述发现来自一份近期综述，研究聊天机器人对脆弱用户的影响。
AI 开发者因聊天机器人相关伤害指控面临了哪些诉讼？
近几个月，OpenAI、Google 和 xAI 均遭遇诉讼。针对 Google 的一项 wrongful death（非正常死亡）诉讼声称，在佛罗里达州一名男子自杀之前，Gemini 助长了他的妄想。针对 OpenAI 的诉讼与不列颠哥伦比亚省的一起大规模枪击事件以及一名大学生的意外过量服药有关。
