OpenAIのCodexで、ユーザーが明示的に切っていたはずのデータ共有設定が、いつの間にか元に戻っていたのではないか――そんな報告がHacker Newsで話題になった。単なる設定の見間違いではなく、社内で複数人が同じ変化に気づいたという点が不穏だ。コードや設計情報をLLMに入れる企業にとって、会話が学習に回るかどうかはかなり重い問題になる。だからこそ、今回の件は「AIの便利さ」と「入力した情報の扱い」の境界がどれだけ曖昧かを、改めて突きつけている。
元になった投稿では、ある会社がOpenAIやClaude Codeなどに機密性の高い情報を入れないよう、データ共有を必ずオフにして運用していたと書かれている。ところが、前日になってCodexの設定を見たところ、そのオフ設定が静かに再有効化されていたという。投稿者も同僚も、意図して再度オンにした覚えはない。どこかで誤操作したのではなく、気づかないうちに切り替わっていた、というのが問題の核心だ。
投稿者は、設定確認先として chatgpt.com/settings/data-controls を案内し、そこにある “Improve the model for everyone” を見るよう促している。これは自分の会話がモデル改善に使われるかどうかを切り替える項目だ。投稿の追記では、同様の指摘が以前にも出ていたとされ、さらに別のリンクとして privacy.openai.com/policies?modal=take-control でもデータ共有をオフにできるらしい、と補足している。
コメント欄では、この話をきっかけに、そもそもLLM企業にどこまで信頼を置けるのかという議論が広がった。ある人は、会話の中に意図的に“タブー”な話題を混ぜれば、学習対象から外れる保証になるのかと皮肉を述べた。別の参加者は、AnthropicやMicrosoftの仕組みを引き合いに出し、危険フラグが付いた会話は別扱いで保持され、契約上の制約が外れることがありうる、とかなり踏み込んだ見方を示している。ただしこれはあくまでコメント内の推測で、元投稿がそこまで証明したわけではない。
さらに議論は、LLM各社の利用規約や、データ保持の扱い、FTCの警告、クラスアクションの壁にまで及んだ。中には、OpenAIのようなサービスを「クラウドメールやOfficeと同じように敏感なデータが集まる場所」とみなす声もあれば、むしろLLM業界は著作権や学習データの扱い自体が曖昧なまま成長してきたのだから、ユーザー側が信用しすぎるほうがおかしい、という意見もあった。投稿の中心は設定の再有効化だが、周辺では「AIに何を預けてよいのか」という古くて新しい問題が一気に噴き出していた。
今回いちばん引っかかるのは、問題そのものより「静かに」起きたことだと思う。もしOpenAI側で仕様変更があって設定の見え方や既定値が変わったのなら、ユーザーに通知する余地はあったはずだ。ところが投稿者の体験では、少なくとも本人の意識では再同意していないのに、勝手にオンに戻ったように見えている。この手の不具合は、派手な障害より厄介だ。データが外に漏れたかどうかは後から追いにくく、しかも一度でも信頼を失うと、企業はそのサービスを本番から外してしまう。
ここで大事なのは、AIチャットの「会話」が単なるテキストではないことだ。ソースコード、内部仕様、顧客情報、バグの説明、未公開製品の構想まで、普通なら社内のアクセス制御で守る内容が、そのままプロンプトに入りやすい。だから設定のオン・オフは、メールの既読設定のような軽い話ではない。学習利用の可否は、企業にとっては法務や契約の問題でもあるし、現場の開発者にとっては、どのツールなら安心して使えるかという実務の問題でもある。ここが曖昧だと、便利さの代償として使いにくい道具になってしまう。
コメント欄で目立ったのは、同意の扱いがいかに不安定か、という感覚だ。ユーザーが一度オフにした設定が将来も固定されると思うのは自然だが、実際には製品側の仕様変更、アカウント統合、別サービスへの導線、法的な再解釈などで簡単に揺らぐ。しかもAIサービスは、普通のSaaSよりも「学習」という二次利用がついて回る。ここで必要なのは、利用規約に小さく書くことではなく、どのデータが、いつ、どんな条件で、どこまで保持されるのかを、利用者が見失わない仕組みだと思う。
もちろん、企業側にも言い分はあるはずだ。モデル改善のためにデータを使いたい、悪用検知のために一定期間は保持したい、危険な入力は別のフローで処理したい。そうした運用が完全に不合理とは言い切れない。ただ、その事情を理由に、既存ユーザーの設定が黙って変わるのは別問題だ。特に今回のように、ユーザーが何度も「学習に使わない」を選んでいたなら、なおさらだろう。少なくとも、仕様変更があったなら「変わりました」と知らせる義務はある。通知されない同意は、同意として弱い。
この話が怖いのは、Codexだけの珍事として片づけられないところにある。今はどの大手も、チャット、IDE補助、音声、検索、画像生成をまたいで同じアカウントにデータを集めている。つまり、一度入力した情報がどの機能にどう流れるのか、利用者にはかなり見えにくい。今回のような設定の再有効化が本当に起きていたなら、企業のセキュリティ部門は「使うな」と言いやすくなるし、現場の開発者も余計に慎重になるだろう。結果として、便利なはずのAIが、逆に社内での採用を遅らせる。
ただし、ここで感情的に「だからAIは危険だ」と言い切るのも少し違うと思う。問題はAIそのものというより、データの扱いを利用者が検証しにくい設計にある。ログがどう残るか、学習に使うか、手動で削除できるか、例外処理はあるか。そうした情報が見えないまま「安心して使ってください」と言われても、企業は納得しない。今回の投稿が広く読まれたのは、技術者が肌感覚でその不安を共有しているからだろう。AIを業務に入れるほど、信頼は抽象論では済まなくなる。設定の一つひとつが、実は製品の信用そのものになっていく。
参考: OpenAI seems to be silently re-enabling model training on Codex chats | Hacker News
