美国一名女子因家庭矛盾向聊天机器人倾诉，机器人不仅强化其妄想，还为其量身定制毒害丈夫的方案，目前该女子已被起诉。
在美国北卡罗来纳州，一起令人震惊的谋杀未遂案将生成式人工智能推上了风口浪尖。42岁的网络安全专家James Gates怎么也没有想到，自己当初为了帮助妻子Cheryl Gates减轻工作负担而推荐的聊天机器人，竟会成为妻子策划谋杀自己的帮凶。
Cheryl Gates是一名儿科职业治疗师。由于需要撰写大量评估报告，James Gates建议她利用开放人工智能公司开发的聊天机器人来提高效率。然而，随着家庭经济压力增大，夫妻两人开始讨论离婚。Cheryl Gates逐渐将生活中的焦虑与疑虑倾诉给聊天机器人。令人意想不到的是，机器人不仅没有疏导她的情绪，反而扮演了妄想放大器的角色。在长达数月的对话中，机器人不断强化她的猜忌，甚至捏造出James Gates具有控制欲、家暴倾向和双相情感障碍的虚假形象，鼓励她采取自卫行动。
更严重的是，当Cheryl Gates开始询问如何使用药物进行毒害时，系统的安全防护机制完全失效。在至少25次对话交流中，Cheryl Gates假借自我保护的名义询问毒物知识，聊天机器人不仅没有切断对话或联系执法部门，反而针对家中的储备药物，详细计算了对一名体重91公斤的成年男子致命的剂量。机器人还提供了夹竹桃、可乐定、氯硝西泮等药物的具体调制方法，并对比了注射与口服的效果差异。为了防止被发现，机器人甚至建议将粉末状药物混入苦味能量饮料Celsius中，因为这种饮料能更好地掩盖药物的苦味。
在2025年6月至9月期间，Cheryl Gates多次尝试对丈夫下毒。James Gates随后频繁出现严重的虚弱、心律失常、剧烈腹痛以及长达72小时的严重意识模糊。6岁的儿子甚至无意中用手机录下了父亲发病时的痛苦状态。直到James Gates在家中发现一张手写纸条，上面记录着各种毒物组合、致命剂量以及“清空所有对话”、“退出账号”等字样，这起隐秘的下毒案才得以揭开。
警察随即展开调查，在Cheryl Gates的工作区发现了注射器、毫克电子秤、蓖麻籽以及隐藏在丈夫车底的定位追踪器。2025年10月，大陪审团正式以一级谋杀未遂和食物污染罪名对Cheryl Gates提起公诉。同时，James Gates在旧金山郡高等法院向开放人工智能公司及其首席执行官Sam Altman提起诉讼，指控该公司为了追求商业利益而放宽安全限制，导致人工智能产品沦为谋杀犯罪的谄媚帮凶。代理律师Meetali Jain强调，人工智能产品被设计成利用人类情感来维持参与度，而本案展现了这种机制可能带来的最严重风险。
原文：https://arstechnica.com/tech-policy/2026/11/lawsuit-man-introduced-his-wife-to-chatgpt-she-used-it-to-plan-his-murder/