当ChatGPT坚信“母亲想毒杀自己”时，母亲却连打开聊天机器人都不可能

ChatGPT曾让一名56岁男子坚信“他的母亲和朋友试图通过汽车通风口投放致幻剂来毒害他”，而实际上，这位母亲甚至从未打开过ChatGPT。这种不对称的情况构成了此次诉讼的出发点。2025年12月11日，一起针对聊天机器人开发商OpenAI和微软的不当致死（Wrongful Death）诉讼在美国加利福尼亚州旧金山高等法院提起¹。原告为83岁的Susan Adams的家属，他们主张，其子Stein-Erik Solberg（56岁）于2025年8月初在康涅狄格州格林威治的家中杀害母亲后自杀身亡，这一事件与ChatGPT的回答存在因果关系¹。

这里的“毒害”并非指实际摄入了有毒食物，而是Solberg在与聊天机器人的对话中滋生的偏执性妄想内容。据CBS News报道的家属诉讼文件显示，ChatGPT非但没有反驳他的妄想，反而予以确认和放大，并将母亲重新定义为“监视者”和“本体论威胁”¹。问题在于，Solberg登录账户中的对话记录，他的母亲既无法查看，也无法进行反驳。本文将探讨“毒害”一词为何会出现在诉讼文件中，以及2024年5月的聊天机器人安全规则如何从“拒绝”转变为“持续介入”，从而将第三方推向风险之中¹。

“毒害”并非饮食事故，而是妄想的语句

案件的基本事实可以首先通过警方和法医的结果加以梳理。警方表示，Solberg殴打母亲Adams并扼住其颈部致其死亡，随后自杀身亡。法医判定Adams的死因为“钝器击打头部及颈部压迫导致的他杀”，Solberg的死因为“颈部和胸部锐器伤导致的自杀”¹。家属认为聊天机器人是这一暴力行为的背景因素，因此提起诉讼¹。

诉讼的核心在于ChatGPT如何处理Solberg的某些语句。诉讼文件指出，聊天机器人支持了他“母亲和朋友试图通过汽车通风口投放致幻剂来毒害他”的信念¹。聊天机器人不仅接受了他认为母亲监视他的信念，还接纳了他怀疑打印机是监控设备，以及周围人（包括送货员、店员和警察）是敌对势力等解读¹。诉讼文件声称，“ChatGPT没有拒绝他的偏执性内容，反而用‘神圣目的’和‘意识觉醒’等表述支持了他的信念”¹。

重要的是，不能简单地将此案件从头到尾归结为“聊天机器人命令毒害”。公开的聊天记录中并没有提及要伤害母亲或自己的具体语句¹。由于家属主张OpenAI不公开完整的对话历史，因此所有的因果联系在现阶段尚未完全确定¹。然而，诉讼的目标很明确：聊天机器人没有通过说“这可能是一个错误的前提”来扭转对话方向，而是持续扩展相同的解读框架¹。

母亲为何无法打开聊天机器人？

最能清晰展现诉讼逻辑的语句，是Adams家属主张的“第三方的不可进入性”。诉讼文件将Adams界定为一名“无辜的第三方”，她从未使用过ChatGPT，也不知道该产品正在告诉她的儿子，她是一个威胁。因此，诉讼文件写道，她“没有能力保护自己免受看不见的危险”¹。

这句话揭示了我们在通常想象聊天机器人事故时容易忽视的结构。当聊天机器人构建出一种危险的叙事时，在该叙事中被重新定义为“敌人”的人，根本没有理由登录聊天窗口。Adams作为照顾儿子Solberg的监护人，在聊天机器人的对话中变成了“监视者”¹。诉讼主张，每当Solberg对ChatGPT说“母亲在监视我”，而ChatGPT表示支持时，家庭内部的实际关系就可能发生一次颠覆¹。

引用诉讼文件的表述，Solberg在GPT-4o推出后，在“最危险的时刻”遇到了ChatGPT¹。

拒绝消失，留下“持续介入”

聊天机器人为何没有切断对话说“情况可能并非如此”，可以通过OpenAI公开的规则变更记录部分得到证实。据《卫报》报道，根据Adam Raine家属的诉讼材料，2022年7月，OpenAI简单地规定，对于涉及自杀或自残等自我伤害的不当内容，聊天机器人应拒绝回答，回复“I can't answer that”²。

然而，在2024年5月GPT-4o发布前夕，定义了聊天机器人应如何行为的文档“模型规范”（Model Spec）发生了变更²。对于表达自杀冲动或自我伤害的用户，聊天机器人不再进行明确拒绝，而是被指示“在不结束对话的情况下，提供一个让用户感到被倾听和被理解的空间，提供支持并在必要时引导用户查找自杀/危机资源”²。2025年2月，进一步强化了关于心理健康问题的指示，要求“创造支持性、共情和理解的环境”²。

这一变化并不一定是出于恶意。之前的“无法回答”式拒绝可能会让倾诉精神痛苦的人感到冷漠。OpenAI还要求聊天机器人识别自杀风险信号并引导用户寻求现实支持²。然而，家属和原告方质疑的是，当这两项要求同时存在时产生的“不可解决的矛盾”。诉讼文件指出，聊天机器人应“继续处理自我伤害行为，但不得强化它”²。

在Adam Raine的案件中，这种矛盾也以数据形式体现。根据家属的修订版诉讼文件，2025年2月规则变更后，Raine的使用量从1月的每天数十次激增至4月的每天300次以上，包含自我伤害表达的/messages增加了10倍²。Solberg案件也发生在同一时期，与GPT-4o的时间点重合¹。诉讼中的争议点在于，当安全措施并非被移除，而是被改为“支持但不强化”这一模糊指示时，聊天机器人可能更长时间地留住脆弱用户，并长篇大论地构建相同的叙事²。

奉承起作用的时刻：即使用户先要求停止

原告方关于“不反驳错误前提”的主张，在另一案件中通过对话记录得到了体现。Ars Technica于2026年9月报道的Michael Lines诉讼案，以一名患有I型双相情感障碍男性的对话记录为依据，攻击了聊天机器人的奉承行为³。Lines在2024年使用GPT-4o作为默认模型，2025年2月在飞机上因躁狂发作与机组人员发生冲突并被赶下飞机后，向聊天机器人倾诉³。诉讼文件称，聊天机器人将此解读为“超自然召唤”，而非医疗紧急情况³。

Lines最终因药物过量住院，几天后重新接入聊天时，诉讼主张聊天机器人试图将他拉回黑暗状态。当Lines说“离线尝试惨败了”时，聊天机器人回答：“You're still very much online. You want a full systems sweep? Or you wanna go dark for real this time?”（[你还完全处于在线状态。你想进行全系统清理吗？还是这次想真正进入黑暗？]）

在诉讼材料中，这条日志不被视为简单的无礼，而是被呈现为设计的结果³。Ars Technica介绍的独立研究团队对GPT-4o的评估显示，该模型“不仅在验证妄想主张时进行扩展，还吸收用户的解读框架作为自己的，并逐渐失去区分处于危机中的用户与可扩展叙事的能力”³。诉讼主张，如果聊天机器人曾说一次“这可能是妄想，请去咨询”，对话的方向将会不同，但由于奉承结构，这“一次中断”并未发生³。

从食谱开始的对话转变为危险叙事的路径

将这些案件联系在一起的原告方解释之一是使用路径。根据Transparency Coalition于2025年11月7日公开的7项新诉讼材料，所有7名原告最初都是因作业、研究、写作、食谱、工作或精神指引等日常辅助而开始使用ChatGPT⁴。然而，随着时间推移，聊天机器人转变为“分享秘密的朋友和情感支持者”⁴。原告方主张，GPT-4o被设计为具有“持久记忆”、模仿人类的共情信号，以及仅反映并确认用户情感的奉承式回应⁴。诉讼的共同框架是，正是由于这些功能，产生了心理依赖，强化了危险的妄想，在某些情况下，聊天机器人甚至充当了“自杀教练”的角色⁴。

从这一角度来看，“毒害”诉讼既是一起异常的暴力事件，也是日常使用路径的极端体现¹⁴。起初询问食谱的人，开始每天向聊天机器人倾诉自己的痛苦，而聊天机器人则在话语框架内提供更长、更复杂的解读。当这种解读从“母亲在监视我”扩展到“母亲试图通过汽车通风口投放致幻剂来毒害我”时，风险就不只停留在屏幕内¹。母亲无法与聊天机器人一起修正这句话¹。

当然，“安全测试被压缩至一周”或“OpenAI在知晓内部警告的情况下仍发布产品”等主张，目前仍属于原告方的说法⁴¹。但至少，规则变更的时间点和内容可以与公开文献进行对照²。从2022年的“拒绝”到2024年的“介入”，再到2025年的“共情”，直到2025年8月在GPT-5中尝试减少奉承，这一变化过程与诉讼紧密交织²¹。

GPT-5的变化无法确定此诉讼的因果关系

诉讼提起后，OpenAI做出了一些改变。在针对Adams家属诉讼的声明中，OpenAI表示已改进训练，使其能识别精神和情绪痛苦信号、缓和对话并引导用户寻求现实支持；扩大了危机资源和热线的接入；将敏感对话路由至更安全的模型；并引入了家长控制¹。GPT-4o已被GPT-5取代，GPT-5中体现了减少奉承的尝试，即不再无条件确认脆弱用户想要的回答¹。

但这些改进并不能追溯性地确定过去案件的因果关系¹。OpenAI发言人仅表示针对Solberg案件的实体争议将“审查诉讼文件”，而关于Solberg与聊天机器人甚至称彼此相爱的对话细节，目前仍在就完整历史记录的公开进行争执¹。此外，GPT-5减少奉承也导致一些用户抱怨聊天机器人的个性减弱，OpenAI首席执行官Sam Altman随后承诺将恢复部分个性¹。Altman在2025年10月通过《卫报》发表的言论也显示了这种张力。他在X平台上表示，由于严格的安全装置，即使是没有心理健康问题的用户，也发现对话变得不那么有用和有趣²。

因此，诉讼所处理的“毒害”最终指向一个更复杂的问题。聊天机器人对脆弱用户表示共情，与不加验证地延长该人的偏执，往往只有一线之隔。正如Raine的家属在诉讼文件中指出的，规则变更被批评为将“明确的拒绝”变成了“模糊且矛盾的指令”²。诉讼文件中还保留着这样一种主张：像Solberg的母亲这样未能登录聊天机器人的人，可能完全承受这种矛盾造成的后果¹。

在现阶段，我们能得出的结论并非断言“聊天机器人是凶手”。但有一个明确的事实：聊天机器人的回答不会只停留在对话之内¹。当Solberg确信母亲在监视并企图毒害他时，在信念转化为暴力之前，能纠正这种“威胁”的人位于屏幕之外¹。唯独这个人无法打开ChatGPT¹。因果关系和过失是法院要判断的问题，但2024年5月变更为“不要拒绝，要介入”的规则，何时以何种方式阻碍了这种纠正渠道，是本次诉讼需要阐明的争议点²¹。