AI企業が研究者の未発表の数学をどう扱っているのか。Andreas ThomがMathstodonに投稿した文章は、その点に強い疑念を投げかけている。話題になっているのは、OpenAIが数学の非sofic groupに関する発見を発表したあとに起きた、研究者とのやり取りだ。単なるSNS上の愚痴ではなく、未公開の研究をAIに預けてもよいのか、というかなり重い問題を含んでいる。数学の世界では、アイデアが論文になる前に共同作業や会話の中で飛び交う。その途中経過がどこまでモデルに吸い込まれたのか分からないままでは、共同研究そのものの信頼が揺らぐ。Thomはまさにそこを問題にしている。
Thomは、OpenAIの「non-sofic group announcement」を読んだあとで気づいたことを記録している、と書き出している。彼が思い出したのは、OpenAIにメールした過去のやり取りだ。Dresdenの同僚と彼は、Gabor Kunとの間で、expander matching problem とそのさまざまな拡張について、ここ数か月 ChatGPT を使いながら議論していた。そこで当然気になるのは、その会話がトレーニングデータに入っていたのか、あるいは推論の過程で参照できたのか、という点だ。Thomはそれを「率直に言って受け入れがたい」透明性の欠如だと感じ、そうした不透明さは、AIが数学にもたらす利益よりも、数学コミュニティの共同作業を傷つけるだろうと書いている。
そのメールに対して、Mark Sellke は「Regarding your conversations with ChatGPT: that did not happen.」と返した。Thomによれば、彼が尋ねていたのは二つの別の問題だった。ひとつは会話が training data に入ったかどうか、もうひとつは solving process からその会話にアクセスできたかどうか、である。しかし返答は、後者の「直接アクセス」は否定したように読める一方で、前者の「学習データに入ったかどうか」には答えていないように見える。しかも、その切り分けや説明、証拠は示されなかった。Thomはこれを、少なくとも不誠実だと受け止めている。
さらに彼は、OpenAIが Buckmaster-Alpöge の件について「特定のユーザーデータはアクセスされなかった」としながらも、「製品の利用から派生した de-identified data がモデル改善に役立った可能性は排除できない」と述べている点にも触れている。つまり、直接見たのではないが、匿名化や再加工を経たデータが学習に使われた可能性までは否定していない。Thomの文章は、この曖昧さが研究者にとってどれほど厄介かを示すものになっている。
この投稿でいちばん重いのは、OpenAIが「何を知っていたのか」をはっきり示していない点だと思う。数学の研究では、未発表のアイデアが会話の中で先に共有されることが多い。論文投稿の前に、仲間内で議論し、反例を探し、表現を磨く。そこに ChatGPT のような道具を挟むと、会話が単なる入力ログなのか、学習資源なのか、それとも推論時に参照されたのか、境目が急に曖昧になる。曖昧だからこそ、研究者は安心して話せない。Thomが「共同体のプロセスを傷つける」と言うのは大げさではない。
しかも、問題は「盗まれたかどうか」だけではない。研究者が一番困るのは、自分の未公開の議論がどの段階で、どの形で、どこに残ったのかを確認できないことだ。OpenAIの返答が仮に事実だったとしても、説明が不足していれば、受け手には「否定はしたが、納得できる根拠は出していない」と映る。ここで大切なのは技術的な正しさと、コミュニティが受け取る透明性は別物だという点だと思う。モデルの内部を全部公開しろ、という話ではない。ただ、少なくとも研究者が懸念するレベルのデータ取り扱いについては、もっと丁寧な説明が必要ではないか。
OpenAIの「特定のユーザーデータはアクセスされなかった」という言い方も、今回の文脈ではかなり弱い。というのも、研究者が知りたいのは「目の前で見られたか」だけではないからだ。会話ログが学習に使われたのか、そこから派生した匿名化データがモデル改善に使われたのか、別の経路で間接的に影響したのか。実際には、こうした経路の違いが結果の信用に直結する。にもかかわらず、返答が曖昧だと、受け手は最悪のケースを想像するしかなくなる。
ここで思い出すのは、AI企業がしばしば「プライバシーには配慮している」と言いながら、利用規約やデータ処理の実態は細部が見えにくいことだ。一般ユーザーならまだしも、研究者にとっては、その不透明さが致命的になりうる。未公開の数学は、公開された論文以上に、誰が何を知っていたかが重要だからだ。アイデアの発生源をめぐって疑義が出た瞬間、議論は内容から手続きへ移る。これでは、せっかくの研究成果も、純粋な知的成果として受け止められにくくなる。
Thomの文章が面白いのは、AIそのものを全面的に否定していないところだ。彼が怒っているのは、AIが数学を解くこと自体より、その裏側が見えないことにある。数学の世界では、再現性や証明の筋道に厳しいだけでなく、誰がどこでその発想に触れたのかという倫理もかなり重い。だから、AIが賢くなるほど便利になる、という単純な話では終わらない。むしろ、便利さが増すほど、未公開情報の扱いが雑だと一気に信用を失う。
私には、この件はOpenAI個社の問題というより、研究者がAIツールを日常的に使い始めた時代の摩擦として見える。研究の現場では、秘匿すべきものと共有すべきものの境界が昔よりずっと揺らいでいる。そこにAIが入ると、会話の相手が人間なのか、学習装置なのか、後で予測不能な形で再利用されるのかが分からなくなる。これはかなり不気味だ。だから本来は、企業側が「使っています、でもここまでは見ません」ではなく、「何を保存し、何を学習に使い、何を切り離しているのか」を研究者向けに明確に示す必要があると思う。そうしない限り、数学のような共同作業の文化とは相性が悪いままだろう。
今回の投稿は、AIが数学で何を達成したかよりも、研究者がその周辺でどれだけ安心できない状態に置かれているかを示している。非sofic group の話題そのものより、そこに至るまでのデータの流れや応答の仕方が争点になっているのが象徴的だ。つまり、これから問われるのは「AIがどれだけ強いか」だけではない。「研究者がどれだけ安心して使えるか」のほうだ。
私の見方では、ここで必要なのは派手な技術進歩より、地味な約束事だと思う。研究用の会話をどう扱うのか、学習に回る可能性があるのか、匿名化したら本当に安全なのか。そうした点を曖昧にしたまま「便利です」と言っても、数学者のように証明と手続きに敏感な人たちには通じにくい。むしろ逆効果だろう。AIが研究を加速させる未来があるとしても、その前提には、使う側が信用できるルールが必要になる。Thomの文章は、その未整備さをかなり鋭く突いている。
