OpenAIが、ChatGPTに新しい安全機能「Trusted Contact」を導入します。これは一言でいうと、「もしユーザーの安全が心配になったら、あらかじめ登録した信頼できる人に知らせる」という仕組みです。
面白いのは、これが子ども向けだけではなく、成人にも開放される点です。The Vergeによると、18歳以上のChatGPTユーザーは、家族・友人・介護者などの成人を「Trusted Contact」として設定できます。OpenAIの説明では、チャット内容から自傷や自殺に関する話題など、深刻な安全上の懸念があると判断された場合に、この連絡先へ通知されるとのことです。
設定は任意（opt in）です。つまり、勝手に有効になるわけではありません。ユーザーが自分でアカウント設定から連絡先を追加し、その相手が1週間以内に招待を承認すると使えるようになります。
ここで大事なのは、OpenAIがこの通知を「意図的に限定している」と説明していることです。つまり、Trusted Contactに送られるのはチャットの全文やトランスクリプトではないということ。通知の中身はかなり絞られていて、メール、SMS、ChatGPTアプリ内通知のいずれかで届く仕組みです。
個人的には、ここはかなり重要だと思います。というのも、こうした安全対策は「助けになる」一方で、プライバシーをどこまで守れるのかがいつも難しいからです。全文を送らない設計は、少なくともそのバランスを意識しているように見えます。
OpenAIによれば、まずChatGPTの自動システムが危機の可能性を検知します。その後、ユーザーにはTrusted Contactに助けを求めるよう促し、通知される可能性があることも伝えるそうです。
さらに、特別訓練を受けた少人数のチームが状況を確認し、深刻な安全上の懸念があると判断された場合にだけ、Trusted Contactへ通知が送られます。
ここはかなり大事なポイントです。AIの判断だけで即通知ではなく、人間のレビューを挟むわけですね。これはかなり現実的な設計だと思います。AIは便利ですが、こうした繊細な場面では誤検知もありえるので、最終判断を人が担うのは筋が通っています。
この機能は完全な新発明というより、すでにあったティーン向けの安全機能を拡張したものです。OpenAIは昨年9月、ChatGPTのペアレンタルコントロールと一緒に、緊急連絡先の仕組みを導入しました。
その背景には、16歳の少年がChatGPTに長期間悩みを打ち明けた後に自殺したとされる出来事があります。こうした悲劇を受けて、AIチャットがユーザーの危機をどう扱うべきか、各社が急いで対策を強めている流れがあります。
The Vergeの記事では、Metaも同様の機能を導入しており、Instagramで子どもが自傷に関する話題を繰り返し検索した場合に親へ通知する仕組みがあると触れています。つまり、これはOpenAIだけの話ではなく、AIとメンタルヘルスの接点をめぐる業界全体の動きなんですね。
このTrusted Contact機能、正直かなり時代を象徴していると思います。昔なら「困ったら人に相談してね」で済んだ話が、いまやAIが先に危険を察知するところまで来ているわけです。
もちろん、AIは万能ではありません。むしろ、こうした仕組みがあるからこそ、AIを人間の代わりの相談相手にしすぎる危うさも見えてきます。ChatGPTが適切に振る舞える場面もあれば、逆に判断が難しい場面もある。だからこそ、OpenAIが「地域ごとのヘルプラインに加えるもう一つの支援」と位置づけているのは自然だと思います。
個人的には、この機能は「AIが人を救う」より、「AIが人と人をつなぐ」方向の設計として見るとしっくりきます。AI単体で問題を解決するのではなく、最終的には現実の信頼できる人間につなぐ。そこがいちばん重要なのではないでしょうか。
一方で、こういう仕組みは使い方を間違えると逆効果にもなりえます。たとえば、ユーザーが「通知されるかもしれない」と知っていて、かえって本音を話しづらくなる可能性はあるでしょう。また、誤検知で不要な通知が飛べば、信頼関係に影響するかもしれません。
なので、この機能はあくまで安全ネットの一つであって、完全な解決策ではありません。とはいえ、何もしないよりはずっといい。特に、危機にある人が一人きりで抱え込まないようにする仕組みとしては、かなり意味があると思います。
ChatGPTのTrusted Contact機能は、AIチャットがメンタルヘルスの危機を検知したとき、あらかじめ登録した信頼できる人へ知らせるための仕組みです。しかも成人ユーザーにも広げた点が新しく、AIの安全対策が「未成年保護」から「大人にも必要な支援」へと広がってきたことがわかります。
AIは便利ですが、こういうニュースを見ると、改めて「AIは人間関係を置き換えるものではなく、支えるもの」だと感じます。そこを見失わない設計なら、かなり価値のある機能になりそうです。
参考: ChatGPT’s ‘Trusted Contact’ will alert loved ones of safety concerns
