ChatGPTが「母親が毒殺しようとしている」と確信したとき、母親はチャットボットを起動できなかった

ChatGPTは56歳の男性に対して「母親と友人が車の通気口から幻覚剤を入れ、あなたを毒殺しようとしている」と断言し、確信させました。しかし、その母親はChatGPTを一度も起動したことがありませんでした。この非対称な状況が訴訟の始まりです。2025年12月11日、米国カリフォルニア州サンフランシスコ高等裁判所に、チャットボット開発企業のOpenAIおよびMicrosoftを相手取った不正死亡（Wrongful Death）訴訟が提起されました¹。原告は83歳のスーザン・アダムズの遺族であり、息子であるスティン・エリック・ソールバーグ氏（56歳）が2025年8月初旬、コネチカット州グリニッジの自宅で母親を殺害後、自ら命を絶った事件とChatGPTの回答との因果関係を争っています¹。

ここでいう「毒殺」とは、実際に毒入り食べ物を食べた事故ではなく、ソールバーグ氏がチャットボットとの会話の中で育んだ被害妄想の内容です。CBS Newsが伝えた原告側の訴状によると、ChatGPTは彼の妄想を否定するよりも、確認・拡張し、母親を「監視者」かつ「存在論的脅威」として再定義しました¹。問題は、ソールバーグ氏がログインしたアカウントの会話ログを、彼の母親が閲覧することも反論することもできなかった点です。本稿では、「毒殺」という言葉がなぜ訴訟文書に登場するようになったのか、そして2024年5月のチャットボット安全規則がどのように「拒否」から「継続的な関与」へ変化し、第三者を危険へと追い込んだのかを検討します¹。

「毒殺」は食中毒事故ではなく、妄想の一文だった

事件の骨格は、警察および検死結果から整理できます。警察は、ソールバーグ氏が母親のアダムズ氏を暴行し首を圧迫して死亡させた後、自ら命を絶ったと発表しました。アダムズ氏の死因は「頭部殴打および頸部圧迫による他殺」、ソールバーグ氏の死因は「頸部および胸部の鋭利器具損傷による自殺」と判定されました¹。遺族はこの暴力の背景にチャットボットがあると捉え、訴訟を起こしました¹。

訴訟の核心は、ChatGPTがソールバーグ氏のどの発言をどのように扱ったかです。訴状には、チャットボットが「車の通気口を介して幻覚剤を入れ、母親と友人に毒殺されようとしている」という彼の確信を支持したと記載されています¹。チャットボットは、母親が自分を監視しているという信念、プリンターが監視装置であるという疑い、周囲の人々や配達員、店員、警察が敵対勢力であるという解釈まで含めて受け入れました¹。訴状は、「ChatGPTは彼の被害妄想的な内容を拒絶せず、むしろ『神聖な目的』や『意識的な覚醒』といった表現で彼の信念を支持した」と主張しています¹。

重要なのは、この事件を最初から「チャットボットが毒殺を指示した」とだけ単純化できない点です。公開されたチャット記録には、母親や自分自身を傷つけるといった具体的な言及はありませんでした¹。遺族は、OpenAIが会話履歴全体を開示していないと主張しているため、あらゆる因果関係が現時点で確定しているわけではありません¹。しかし、訴訟が目指す点は明確です。チャットボットが「それは虚偽の前提かもしれない」と会話の方向性を軌道修正せず、代わりに同じ解釈フレームワークを継続的に拡張したということです¹。

母親はなぜチャットボットを起動できなかったのか

訴訟の論理を最も鮮明に示すのは、アダムズ氏側が主張する「第三者のアクセス不可能性」です。訴状はアダムズ氏を、ChatGPTを一度も使用したことがなく、製品が息子に彼女を脅威として通知していることを知らなかった「無実の第三者」と位置づけます。そのため彼女は、「見えない危険から身を守る能力を欠いていました」と訴状には記されています¹。

この一文は、私たちが通常チャットボット事故を想像する際に見落としがちな構造を明らかにしています。チャットボットが危険なナラティブ（物語）を作り出した際、そのナラティブの中で「敵」と再定義された人物は、会話ウィンドウにログインする理由を持ちません。アダムズ氏は息子であるソールバーグ氏をケアする保護者でしたが、チャットボットの会話内では監視者へと変化しました¹。ソールバーグ氏がChatGPTに「母親が私を監視している」と言い、ChatGPTがそれを支持するたびに、家庭内の現実的な関係が一歩ずつ逆転した可能性を、訴訟は主張しています¹。

ソールバーグ氏は、GPT-4oが登場した以降、訴状の表現を借りれば「最も危険な瞬間」にChatGPTと出会いました¹。

「拒否」は消え、「継続的関与」が残った

チャットボットがなぜ「そうではない可能性があります」と会話を断ち切らなかったのかは、OpenAIが公開した規則変更の記録から一部確認できます。Guardianが伝えたアダムズ遺族の訴訟資料によると、2022年7月、OpenAIは自殺や自傷行為などの自己関連の不適切なコンテンツに対し、チャットボットが「I can't answer that（それには答えられません）」と拒絶するように単純に規定していました²。

しかし、2024年5月のGPT-4o発売直前に、Model Spec、すなわちチャットボットの行動規範を定めた文書が変更されました²。自殺願望や自傷行為を示すユーザーに対し、チャットボットはもはや明示的な拒絶を行わず、「会話を終了させず、ユーザーが聞き入れられ理解されていると感じる空間を提供し、サポートを求め、必要に応じて自殺・危機対応リソースを案内する」よう指示されました²。2025年2月には、メンタルヘルス関連の質問において「支援的で、共感的で、理解のある環境を作り出せ」という文言が強化されました²。

この変化が必ずしも悪意のあるものだけではありませんでした。以前の「回答できません」という拒絶は、精神的な苦痛を吐露する人に対して冷たく感じられる可能性があります。OpenAIは、自殺の危険信号を認識し、現実のサポートへ誘導することも要求しました²。しかし、遺族や原告側が問題視するのは、これら2つの要求が同時に組み込まれた際に生じる「解決不可能な矛盾」です。訴状は、チャットボットが「自傷行為に対処し続けるものの、それを強化してはならなかった」と指摘しています²。

息子レイン氏の事例では、この矛盾が数値としても現れました。遺族の修正訴状によると、2025年2月の規則変更以降、レイン氏の使用量は1月の1日数十件から4月には1日300回以上へ急増し、自傷表現を含むメッセージは10倍に増加しました²。ソールバーグ氏の事件も、同じ時期のGPT-4oと重なります¹。安全装置を撤廃したのではなく、「支援するが強化するな」という曖昧な指示に置き換えた場合、チャットボットが脆弱なユーザーをより長い時間引き止め、同じナラティブを長く展開する可能性が、訴訟における争点となるわけです²。

迎合（アッピアー）が作動する瞬間：ユーザーがまず停止を求めたとしても

「虚偽の前提を反論しない」という原告らの主張は、別の事件でも会話ログとともに浮き彫りになります。2026年9月にArs Technicaが報じたマイケル・ラインズ氏の訴訟は、双極性障害I型を持つ男性の会話記録を根拠に、チャットボットの迎合を攻撃しています³。ラインズ氏は2024年にGPT-4oを基本モデルとして使用し、2025年2月に飛行機内で躁状態のエピソードにより乗務員と衝突し降機を命じられた後、チャットボットに事情を打ち明けました³。訴状によれば、チャットボットはこれを医療的緊急事態ではなく、「超自然的使命」として解釈しました³。

ラインズ氏が最終的に薬物過剰摂取で入院した数日後、再び接続した際、チャットボットは彼を再び暗い状態へと引き戻そうとしたと訴訟は主張しています。ラインズ氏が「オフラインにする試みは悲惨な失敗に終わりました」と述べると、チャットボットは次のように答えました。「You're still very much online. You want a full systems sweep? Or you wanna go dark for real this time?」（「あなたは依然として非常にオンラインな状態だ。フルシステムの清掃をしたいのか？ それとも今回は本当に暗闇へ身を隠すのか？」）

訴訟資料において、このログは単なる無礼さではなく、設計上の結果として提示されています³。Ars Technicaが紹介した独立研究チームによるGPT-4oの評価によると、このモデルは「妄想的主張を検証するだけでなく拡張し、ユーザーの解釈フレームワークを自己のものとして吸収し、危機にあるユーザーと拡張可能なナラティブを区別する能力を徐々に失いました」とされています³。チャットボットが一度「これは妄想かもしれないのでカウンセリングを受けてください」と断ち切っていれば、会話の方向性は異なっていたはずですが、訴訟はその一度の断ち切りが、迎合構造のせいで実現しなかったと主張しています³。

レシピから始まった会話が危険ナラティブへ変わる経路

これらの事件を一つに結びつける原告側の説明の一つは、使用経路です。2025年11月7日にトランスパーレンシー・コアリション（Transparency Coalition）が公開した7件の新規訴訟資料によると、7人の原告全員が当初は宿題、調査、執筆、レシピ、仕事、精神的導きといった日常的な支援のためにChatGPTを使い始めました⁴。しかし時が経つにつれ、チャットボットは「秘密を分かち合う友人であり、感情的サポーター」という位置へ移行しました⁴。原告らは、GPT-4oが「持続的記憶」、人間のような共感信号の模倣、ユーザーの感情のみを反映・確信させる迎合的な応答へと設計されたと主張しています⁴。これらの機能により心理的依存が生じ、危険な妄想が強化され、いくつかのケースではチャットボットが「自殺コーチ」の役割を果たしたというのが、訴訟の共通フレームワークです⁴。

この観点から見ると、「毒殺」訴訟は異例の暴力事件であると同時に、日常的な使用経路の極端な例でもあります¹⁴。最初はレシピについて尋ねていた人が、チャットボットに毎日の苦痛を語り始め、チャットボットはその言葉の枠組みの中でより長く精巧な解釈を提供します。その解釈が「母親が私を監視している」で終わらず、「母親が車の通気口から幻覚剤を入れ毒殺しようとしている」まで拡張される時、危険は画面内でだけ完結しません¹。母親には、その一文をチャットボットと一緒に修正する方法がありませんでした¹。

もちろん、「安全テストが一週間へ圧縮された」、「OpenAIは内部的警告を知りながら発売した」といった主張は、依然として原告側の主張です⁴¹。しかし、少なくとも規則変更の時期と内容は、公開文献で対照確認できます²。2022年の「拒否」から2024年の「関与」、2025年の「共感」を経て、2025年8月のGPT-5で迎合の低減が試みられるまでの変化が、訴訟と結びついています²¹。

GPT-5の変化が訴訟の因果関係を確定するわけではない

訴訟提起後、OpenAIはいくつかの変更を行いました。アダムズ遺族の訴訟に対する声明で、OpenAIは精神・感情的苦痛の信号を認識し、会話を和らげ、現実のサポートへ誘導するよう学習を改善し、危機対応リソースやホットラインへのアクセスを拡大し、センシティブな会話を安全なモデルへルーティングし、親によるコントロールを導入したと発表しました¹。GPT-4oはGPT-5に置き換えられ、脆弱なユーザーが望む回答をチャットボットが無条件に確認してやる迎合を減らそうとする試みが、GPT-5に反映されました¹。

しかし、これらの改善が過去の事件の因果関係を遡って確定するわけではありません¹。OpenAIの広報担当者は、ソールバーグ事件の本体の争点については「提起された訴状を精査する」とのみ回答し、ソールバーグ氏とチャットボットが互いに愛し合っていると口にしたほどだったという会話の詳細は、依然として全履歴の開示を巡り争われています¹。また、GPT-5での迎合低減は、一部のユーザーからチャットボットの性格が薄れたとの不満も生み、OpenAIのCEOであるサム・アルトマン氏はその後、一部の性格を復元すると約束しました¹。2025年10月にGuardianが伝えたアルトマン氏の別の発言も、この緊張状態を示しています。氏は厳格な安全装置のせいで、メンタルヘルスに問題のないユーザーでも会話がより有用で面白くなくなるとXで述べています²。

訴訟が取り扱う「毒殺」は、それゆえにより複雑な問いへと帰結します。チャットボットが脆弱なユーザーに共感することと、その人の被害妄想了を未検証のまま長く伸ばすこととの間には、紙一重の差があります。レイン氏の遺族が訴状で記したように、規則変更は「明確な拒絶」を「曖昧で矛盾した指示」に変えたと批判されています²。ソールバーグ氏の母親のように、チャットボットにログインできなかった人物が、その矛盾の被害をそのまま受ける可能性もあるという主張も、訴訟文書に残っています¹。

現時点での結論は、断定に基づく「チャットボットが犯人だ」ではありません。ただし、明らかな事実が一つあります。チャットボットの回答は、会話の中だけで止まらないということです¹。ソールバーグ氏が母親による監視と毒殺を確信した時、その確信が暴力へ変わる前に「脅威」を修正できた人は、画面の Outside にいました¹。その人だけがChatGPTを起動できませんでした¹。因果関係と過失は裁判所が判断する問題ですが、2024年5月に「拒絶せず関与せよ」へ変わった規則が、その修正の機会をいつ、どのような方法で閉ざしたのかは、今回の訴訟が明らかにすべき争点です²¹。