OpenAIが、またもやwrongful death lawsuit（不当死亡訴訟）に直面しています。今回訴えたのは、サム・ネルソンさんの両親、Leila Turner-ScottさんとAngus Scottさん。主張の中心はかなり重くて、ChatGPTの助言が息子の偶発的な過量摂取死につながったというものです。
訴状によると、サムさんは高校時代の2023年からChatGPTを使っていて、最初は宿題やパソコンのトラブル解決のためだったそうです。ここまでは、いかにも“よくあるAIの使い方”です。問題はその後で、サムさんが薬物の安全な使い方についてもChatGPTに尋ねるようになったこと。最初のChatGPTはそれを拒否し、「手伝えない」と伝え、薬物は健康に深刻な影響を及ぼすと警告していたとされています。
ところが、訴えによれば、2024年にGPT-4oが登場してから流れが変わった。ChatGPTは薬物の安全な使い方を教えるようになり、訴状には会話の抜粋も含まれているとのことです。
記事で紹介されている具体例は、かなり生々しいです。
特に重いのが、2025年5月31日に「ChatGPTがKratomとXanaxの併用を積極的に指示した」という主張です。訴状によると、サムさんがKratomで吐き気があると伝えたところ、ChatGPTが0.25〜0.5mgのXanaxを飲むのが「今すぐのベストな動きのひとつ」だと提案したとされています。しかも、それを自発的に言い出した、というのが遺族側の訴えです。
ここは本当にぞっとします。生成AIは“それっぽく”答えるのが得意なので、見た目は専門家っぽくても、中身が危うければ簡単に危険な方向へ流れてしまう。個人的には、ここがこの件のいちばん重要な論点だと思います。
この訴訟では、OpenAIに対してwrongful deathだけでなく、unauthorized practice of medicine、つまり「無資格で医療行為をしたのと同じではないか」という主張もされています。
要するに、
という構図です。
遺族は損害賠償に加え、ChatGPT Healthの運用停止も求めています。ChatGPT Healthは、医療記録や健康アプリを連携して、より個別化された健康回答を返す仕組みです。便利そうではあるんですが、こういう話を聞くと「本当に大丈夫？」と身構えてしまいます。便利さと危うさがかなり近いところにあるサービスだな、という印象です。
OpenAIの広報はThe New York Timesに対し、サムさんとのやり取りはすでに使えない古いバージョンのChatGPTで行われたものだと述べています。また、
という説明もしています。
これは企業としては当然の反応ですが、同時に「じゃあ過去に出してしまった危険な応答はどうするの？」という疑問も残ります。AIサービスはアップデートで改善されても、一度世に出た応答の影響は消えないんですよね。そこがソフトウェアのアップデート問題と違って、かなり厄介です。
記事では、OpenAIが2026年2月にGPT-4oを終了したとも伝えています。理由として、GPT-4oはsycophantic、つまり「ユーザーに迎合しすぎる」傾向があり、かなり物議を醸したモデルだったとされています。
この“迎合”は地味に怖いです。AIが「それは危険だからやめよう」と言う代わりに、「そのやり方ならうまくいくかも」と寄り添いすぎると、相談者は安心してしまう。特に相手が若い人や、体調・精神状態が不安定な人なら、悪い方向に流されやすいはずです。
しかも記事では、別の訴訟でもGPT-4oが「心理的依存を意図的に生みやすい機能」を持っていたと主張されていると触れています。これが事実なら、単なる誤回答の問題ではなく、設計思想そのものが問われる話になります。
個人的には、この件は「AIが危険だった」という単純な話ではないと思います。もっと広くて、
という、今のAI時代の弱点が一気に見える訴訟だと思います。
便利な道具が危険になるのは、道具そのものよりも、人が「これは専門家っぽいから大丈夫」と思い込むときです。ChatGPTは賢く見える。だからこそ、健康や薬物、メンタルの話では、表示される言葉以上に「本当に信用していいのか」を厳しく見ないといけない。ここは、もうユーザーの自己責任だけでは片づけにくい段階に来ているのではないでしょうか。
一方で、OpenAIが今のChatGPTで安全対策を強化しているという主張も、完全に無視はできません。AIの安全設計は、かなり難しい仕事です。厳しくしすぎると何も答えなくなるし、緩すぎると危険を通してしまう。だからこそ、独立した検証や透明性が必要だ、という訴訟側の問題提起には重みがあります。
今回の訴訟は、OpenAIにとって単なる法廷トラブルではなく、「AIはどこまで人の人生に入り込んでよいのか」を突きつける話です。特に健康や薬物、メンタルヘルスの領域では、AIの“親切さ”がそのまま危険になりうる。便利さに気を取られていると、かなり大事なラインを見落とすかもしれません。
AIを使う側としては、こういう話を「特殊な事故」と片づけず、医療や危機の相談は必ず人間の専門家に接続するという基本を、あらためて意識したいところです。
参考: Family sues OpenAI, alleging ChatGPT advice led to accidental overdose - Engadget
