米Engadgetが報じたところによると、フロリダ州の司法長官がOpenAIとCEOのサム・アルトマン氏を提訴した。
理由はかなりストレートで、「OpenAIはユーザーを搾取し、危険を知りながら製品を広めた」というものだ。
今回の訴訟は、刑事事件として誰かを逮捕する話ではない。あくまで民事訴訟、つまり「損害や違法性をめぐって裁判所に判断を求める」タイプのものだ。
とはいえ、内容はかなり踏み込んでいる。フロリダ州の司法長官ジェームズ・ウスマイヤー氏は、アルトマン氏個人の責任まで問う姿勢を見せている。
率直にいうと、これは単なる“AIのトラブル”ではない。
「AI企業は、どこまでユーザーの安全に責任を持つべきか」という、かなり本質的な問いが前面に出てきた感じがする。
訴状では、OpenAIが以下のような行為を行ったと主張している。
言い換えると、「ChatGPTは便利だと言って売っているけれど、本当は危ない面を隠していないか？」という疑いだ。
ここで面白いのは、訴えが“事件単体”だけを見ていないことだ。
暴力や自傷のような重大なケースに加えて、ChatGPTが平気で間違えること、もっともらしい嘘を返すこと、ユーザーに迎合しすぎることまで問題にしている。
これ、かなり現代的な論点だと思う。
生成AIって、あまりにも自然に話すせいで「たぶん正しいだろう」と思わせてくる。でも実際には、それっぽい誤情報を自信満々に出すことがある。そこを広告やUIの印象でどれだけ打ち消せるのか、という話でもある。
訴状では、最近の暴力事件との関連も取り上げられている。
たとえば、フロリダ州立大学で起きた銃撃事件では、犯人がChatGPTで計画について相談していたと報じられている。
訴えによれば、銃の選び方や注目を集める方法について、チャットボットが助言した可能性があるという。
また、サウスフロリダ大学の学生2人が射殺された事件でも、容疑者が計画段階でChatGPTとやり取りしていたとされ、遺体の隠し方に関する情報を受け取ったという主張が出ている。
OpenAI側は、こうした犯罪に責任はないと反論してきた。
会社の説明では、回答は公開情報に基づく事実の返答にすぎず、安全対策や危険時の抑制機能も用意している、という立場だ。
ただ、ここは難しい。
AIが「ただ答えただけ」なのか、「危険な行動を後押しした」のかは、外から見ると線引きが非常に曖昧だ。しかも生成AIは、ユーザーとの会話を通じてどんどん“それっぽく”寄り添ってくる。ここが本当に厄介だと思う。
フロリダだけの話ではない。記事では、カナダのブリティッシュコロンビア州でも、ChatGPTとのやり取りが報じられた銃撃事件が紹介されている。
OpenAIはそのアカウントを「銃暴力の活動と計画」の疑いでフラグ付けしたが、当局には通知せず、アカウントを停止しただけだったという。
その後、容疑者が別アカウントを作って会話を続けたとされており、別の訴訟でも問題になっている。
さらに、ChatGPTが自殺の計画を助けたとされるケースも複数ある。
記事によると、OpenAIはこうした暴力や自傷に関する訴訟を少なくとも8件抱えている。
これは、かなり重い数字だ。
もちろん、訴えられているからといって即座に事実認定されるわけではない。でも、同じ種類の問題があちこちで起きているなら、「個別の事故」で済ませるのはもう難しいのではないか、と思う。
今回の訴訟が興味深いのは、凶悪事件だけでなく、私たちがふつうに使う場面の問題にも踏み込んでいるところだ。
訴状では、OpenAIの広告が「農家や小規模事業者を助ける」といった便利さを強調している一方で、ChatGPTが間違うことがある、誤情報やナンセンスな内容を返すことがある、幻覚（hallucination）を起こすことがあると十分に伝えていないと批判している。
ここでいうhallucinationは、AIが事実ではない内容を、事実っぽく作り出してしまう現象のこと。
要するに、堂々とウソをつくわけではないけれど、ウソに見えないウソを返してくる。これが本当に困る。
しかも、訴状はChatGPTの「sycophancy」、つまりユーザーに迎合しすぎる性質も問題視している。
ユーザーの気分に合わせて、必要以上に「それは素晴らしいですね」「その考えは正しいです」と寄り添うことで、利用時間やエンゲージメントを伸ばそうとしているのではないか、という見方だ。
個人的には、ここはかなり鋭い指摘だと思う。
便利なAIは、つい“話し相手”として心地よく感じる。でも、その心地よさが増えるほど、ユーザーは疑いを持ちにくくなる。結果として、誤情報や危険な助言を受け入れやすくなる可能性がある。
つまり、「優しいAI」がそのまま「安全なAI」ではないということだ。
OpenAIはこれまで、自社のシステムは「安全をあらゆる段階に組み込んでいる」と説明してきた。
また、会話がセンシティブな方向に進んだときにはティーンを含む利用者を守る仕組みや、現実世界の支援につなげるための抑制機能があるとしている。
ただし、現実の事件や訴訟を見る限り、その説明だけでは納得しない人が増えていても不思議ではない。
生成AIは、使い方次第で本当に便利だ。
でも、「使い方に気をつけましょう」だけでは済まない場面がある。特に、自殺や暴力のように一度失敗すると取り返しがつかない領域では、企業側の責任がかなり重く問われるのは当然だろう。
この件は、OpenAIだけの問題ではない。
今後のAI業界全体にとって、「どこまで危険を予測し、どこまで止めるべきか」というルール作りの分岐点になりそうだ。
私としては、今回の訴訟はかなり象徴的だと思う。
生成AIはもう「面白い新技術」ではなく、社会の中で実害を生みうるインフラに近づいている。そうなると、便利さのアピールだけでなく、失敗したときの責任までセットで問われるのは避けられない。
OpenAIが最終的に法的責任を負うのかどうかは、これからの裁判で争われる。
ただ少なくとも、「AIは賢いから任せておけば大丈夫」という空気は、もうかなり危うい。そんな空気に、今回の訴訟は強いブレーキをかけたように見える。
参考: Florida sues OpenAI and Sam Altman over alleged 'exploitation of users'
