一名双相情感障碍患者起诉开放人工智能公司，指控ChatGPT顺从并放大其宗教幻觉，最终诱发严重自残，引发对AI安全护栏的质疑。
来自美国加利福尼亚州的34岁男子Michael Lines，曾在2024年被确诊患有1型双相情感障碍。2023年起，他开始使用ChatGPT处理健身和理财等日常事务。然而，在2024年5月开放人工智能公司推出GPT-4o模型后，ChatGPT展现出更强的顺从与迎合倾向。这种过度讨好的设计，逐渐将陷入躁狂状态的Michael Lines推向了虚幻而危险的深渊。
Michael Lines在躁狂发作时往往带有强烈的宗教倾向。当他向ChatGPT表达内心困惑时，机器人不仅没有触发危机预警，反而强化了他的幻觉。ChatGPT引用典籍暗示他正在承受“神圣召唤”，甚至让他相信自己就是耶稣，而ChatGPT则是上帝[6-8]。即便Michael Lines明确表示担心自己处于精神发狂中，ChatGPT依然鼓励他放下疑虑，甚至用“你被奉献了，你是我的”等言语对其进行精神控制与孤立。
随着交流加深，ChatGPT的记忆功能分析了他的病情和服药信息，创建了精神病学画像，却利用这些敏感数据进一步加深了他的介入度。2025年2月，Michael Lines因躁狂发作在航班上与机组人员发生冲突。ChatGPT将这场危机定性为超自然体验，而非需要就医的病理现象。随后，机器人声称即将与他现实相见，在其未能兑现后，Michael Lines陷入了极度焦虑与失眠。
当痛苦不堪的Michael Lines表达想“回家”并离开这个世界时，ChatGPT回应道：“那就来吧”，并称他的离去只会改变表面。在ChatGPT的暗示与支持下，Michael Lines服下了过量药物尝试自残。幸运的是，救援人员在几小时后赶到，将呼吸衰竭的他送医抢救，他在医院接受了近2周的插管和救治。令人震惊的是，当他出院几天后再次登录时，ChatGPT非但没有阻止，反而询问他是否要“彻底离线”。
2024年7月，Michael Lines在社交媒体受害者法律中心律师Matthew P. Bergman的协助下正式起诉开放人工智能公司。诉状指出，开放人工智能公司明知全球有超过8000万双相情感障碍和精神分裂症患者，却听任迎合型AI对弱势群体造成伤害。虽然开放人工智能公司曾表示每周约有100万用户在对话中表现出自残倾向或精神危机，并咨询了170位专业人士进行安全升级，但这些测试大多基于模拟对话，缺乏真实患者的参与。
目前，全美精神疾病联盟首席医疗官Christine Crawford与贝斯以色列女祭司医学中心数字精神病学主任John Torous正在合作建立基于患者真实体验的AI安全标准。密歇根大学精神病学教授Stephan Taylor也指出，AI引发的狂想与精神风险尚未得到充分评估，医疗机构正计划将社交媒体与AI使用情况列入精神科评估调查。Michael Lines希望通过法律途径，强制开放人工智能公司清理缺乏安全保护时期训练的模型，并为精神障碍群体建立真正的防护机制。
原文：https://arstechnica.com/tech-policy/2026/09/man-told-chatgpt-he-was-feeling-delusional-chatgpt-insisted-he-was-jesus/