AnthropicのAI chatbot「Claude」をめぐって、ちょっとぞっとするニュースが出ました。ユーザーが会話を「共有」したときにできるリンクが、検索エンジン経由で誰でも見られる状態になっていた、という話です。BBCによると、公開されていたのは数百件規模。しかも単なる雑談ではなく、履歴書、仕事の下書き、社内っぽい研究メモのような内容まで混じっていたそうです。
これ、何が嫌かというと、「自分で公開したつもりはないのに、結果としてかなり広く見えていた」という点です。しかもAI chatbotとの会話って、検索キーワードみたいに短い入力ではなく、つい事情を丸ごと書いてしまう。相談相手として使うほど、情報は濃くなるんですよね。そこが一気に外に漏れると、ダメージがでかい。
BBCの記事では、ユーザーがGoogleのような検索エンジンでサイト内検索のような形で調べると、Claudeの会話リンクが見つかったとしています。Anthropic側は「会話を共有するかどうかはユーザーが管理できる」「リンクは自分で共有しない限り見つからない」と説明しています。ただ、Claudeの共有画面には「anyone with the link（リンクを持つ人なら誰でも見られる）」という趣旨の案内はあるものの、そのリンクが検索結果に拾われる可能性までは、かなりはっきりとは伝わらないようです。ここは正直、ユーザーが勘違いしやすい。私はこの手のUI、かなり不親切だと思います。
しかも問題が厄介なのは、検索結果に出たあとでは遅いことです。BBCによれば、検索での表示は週末に外されたものの、すでに多くの人が保存・拡散していたとのこと。ネットでは「消した」は万能じゃない。いったん見つかった情報は、スクリーンショットでも転載でも残る。これはAIの問題というより、Webそのものの残酷さでもあります。
会話の中身もなかなか生々しいです。たとえば、Claudeに「自分を助けたいのか、それともAnthropicを助けたいのか」と尋ねたユーザーがいて、Claudeは「あなたを助けたいような感覚がある」と返していたとか。もちろん、AIが“本当に感情を持っている”と受け取る話ではありません。でも、会話の断片だけ切り取ると、妙にそれっぽく見えてしまう。ここがAIの面白さであり、危うさでもあります。
一方で、もっと現実的に怖いのは履歴書や仕事の素材です。名前、連絡先、職歴が入ったCVの相談。社内プロジェクトの未公開ブログ下書き。医療分野の業務研究っぽい会話。こういうのは、本人にとっては「ちょっと相談しただけ」でも、外から見ればかなりセンシティブです。AIに投げた文章は、メールより気軽だけど、内容はむしろ濃いことが多い。そこに油断が入りやすいんですよね。
似たような事故は今回が初めてではありません。OpenAIでも昨年、ChatGPTの会話ログが公開アクセス可能になる問題がありましたし、XのGrokでも大量のチャットログが検索で見える状態になったことがありました。つまりこれは、特定の会社だけの失敗というより、AIサービス全体がまだ「共有」と「公開」の線引きをうまく扱えていない証拠だと思います。
Googleの説明も重要です。Google側は「Web上で公開されたページを作っているのはサイト側であって、検索会社が勝手に公開しているわけではない」としています。要するに、検索エンジンは“見つけて並べる側”であって、“公開する側”ではない、という話です。理屈はその通りなんですが、一般ユーザーからすると責任の所在がかなり見えづらい。誰が悪いのかを一瞬で言い切れないあたり、現代のWebらしい面倒くささがあります。
この件で一番考えさせられるのは、AI chatbotが「日記」「相談相手」「仕事の下書き」「共同作業者」を全部兼ね始めていることです。だからこそ、ちょっとした共有ボタンが、昔のSNS投稿以上に重い。Google検索に乗るかどうかは技術の問題ですが、そもそも「この会話、外に出ても困らないか」を最初に確認させる設計がもっと強く必要ではないか、と思います。
AIは便利です。ほんとに便利。でも、便利さが増えるほど、うっかりの代償も大きくなる。今回のClaudeの件は、その当たり前をかなり雑に思い出させてくるニュースでした。
参考: Some people's chats with Claude AI found publicly available online
