AIが文章を書き、コードを直し、数式まで扱うようになった一方で、その中身はずっと「ベクトルの計算」にすぎない、という説明が定番でした。ところが今回のarXiv論文は、その見方にかなり強い揺さぶりをかけています。ニューラルネットワークの内部表現は、見た目ほどただの連続値ではなく、記号的な構造をかなりの程度まで含んでいるのではないか、という主張です。もしそれが本当なら、長年対立的に語られてきた symbolic と neural の距離感は、思ったより近いのかもしれません。
この論文の題名は The Emergent Symbolic Structure of Artificial Neural Networks で、arXiv の cs.CL に 2026年8月30日に投稿されています。著者は R. Thomas McCoy、Paul Soulos、Tal Linzen、Paul Smolensky です。主張の骨格はわりと明快です。従来、知能は論理式のような「記号の組み合わせ」を扱うものとして理解されてきました。しかし、現代の強力な AI はニューラルネットワーク、とくに LLM のような連続ベクトルで情報を持つ仕組みです。記号や構造をそのまま持たないように見えるのに、なぜ言語、論理、算術、コードのような領域でうまく動くのか。そこに対して著者らは、「内部では実は記号構造が立ち上がっているのではないか」と仮説を置きます。
その仮説を支えるために、著者らは複数のニューラルネットワークのベクトル表現を調べ、それを symbol 的な構造でかなり近く近似できることを示しています。しかも単に“似ている”という話ではありません。ネットワークが表現を作る過程全体を、閉形式の式で書ける symbolic structure に置き換えても、ふるまいが大きくは変わらない、としています。対象は、リスト操作を学習した小規模ネットワークから、算術、論理、コンピュータコード、言語という4つの領域で動く LLM まで広がります。
さらに重要なのは、作った近似が観察用の説明にとどまらない点です。著者らは、この symbolic approximation を使って LLM の内部表現へ精密に介入し、狙った方向へふるまいを変えられると述べています。つまり、LLM の出力は、単に外から見て記号っぽいだけではなく、内部で見つけた symbolic structure に依存している、というわけです。論文はこれを、記号中心の知能観と、ベクトルベースの現代AIをつなぐ可能性として位置づけています。要するに、「ニューラルネットは記号を使っていない」のではなく、「記号が見えない形で現れているのではないか」という提案です。
この論文でいちばん引っかかるのは、単なる解釈の話に終わっていない点です。AIの内部表現に記号っぽさがある、という主張だけなら、過去にもいろいろありました。研究者がパターンを見つけて「ここに構造がありそうだ」と言うのは、ある意味で自然です。けれど今回の論文は、その構造を閉形式の式として置き換え、しかもふるまいを大きく変えずに済むと示そうとしている。ここが強い。説明できるだけでなく、触れる。しかも狙って触れる。そこに一段、実験としての重さがあります。
私はこれを、LLM の「中身が分からない」という通俗的な見方への反論として読むより、むしろ「分からなさの形が変わってきた」と見るほうが正確だと思います。完全にブラックボックスではなくなった、という話ではありません。むしろ、内部には人間が昔から慣れ親しんだ記号的な骨組みがありそうだ、と見えてきた。そのうえで、その骨組みをどう抽出し、どう介入し、どう検証するかが新しい課題になる。AIの理解は、もはや「モデルが何を出すか」だけでは足りず、「どの構造がその出力を支えているか」に踏み込む段階に入っているのだと思います。
ここはかなり慎重に読んだほうがいいと思います。論文が示しているのは、内部表現が symbolic structure でよく近似できること、そしてその近似が介入にも使えることです。これは強い結果ですが、そこからすぐに「ニューラルネットは人間のように記号操作をしている」と言い切るのは飛躍があります。近似できることと、本質的にそうであることは別です。連続値の大きなシステムは、あとから見れば離散的な構造に見えることがあるからです。
とはいえ、私はこの飛躍を理由に成果を軽く見るべきではないとも思います。むしろ重要なのは、記号かベクトルかという二択自体が、実際のモデル理解には雑すぎた可能性です。ニューラルネットは、入力から出力までを雑多な数値でごまかしているわけではなく、ある局面では記号的な関係を“実装しているように見える”のかもしれない。その中間的な位置づけが、今回かなり具体化された。人工知能の説明枠組みとして、「symbolic vs neural」という古い対立図式をそのまま続けるのは、少しもったいないのではないでしょうか。
この論文が対象にしている4領域、つまり arithmetic、logic、computer code、language は、いずれも記号処理の伝統と深く結びついています。ここが実にうまい選び方です。たとえば算術や論理は、構造が比較的はっきりしているので、内部表現に何かしらの規則性があるのは想像しやすい。コードも、構文の制約が強いぶん、記号的な説明と相性がよい。言語は少し厄介ですが、それでも文法や依存関係を考えれば、構造の話から完全には逃げられません。
だからこそ、4領域をまたいで同じ方向の結果が出るなら、それは「たまたまそのタスクでうまくいった」以上の意味を持ちます。私はここに、LLM が単なる次トークン予測機械ではない、という主張を持ち込むつもりはありません。そういう言い方は雑です。ただ、内部で形成される表現が、タスクごとにバラバラなノイズではなく、かなり一貫した構造として読める可能性は高まったと思います。もしそれが本当なら、今後の研究は性能競争だけでなく、「どの表現がどの能力を支えるか」を丁寧に切り分ける方向に進むはずです。モデルを大きくするだけでは見えないものが、構造を追うことで見えてくる。そういう転換点の匂いがあります。
この論文のもう一つの含みは、内部表現に対する精密な介入ができるなら、モデルのふるまいをかなり直接に変えられる、という点です。これは研究としては魅力的ですが、実運用では少し怖い。モデルが出力する文章の表面を整えるだけでは防げない種類の操作が、内部構造のレベルで可能になるかもしれないからです。逆に言えば、モデルの挙動を修正したり、バグに近い癖を局所的に直したりする道も開けます。ここは光と影が同時にある。
私は特に、評価の仕方が変わると思います。今までは、LLM の性能はベンチマークの点数や、プロンプトへの追従性で測られることが多かった。でも内部構造が見えてくると、「その性能はどんな表現に支えられているのか」「修正するとどこまで崩れるのか」という問いが前に出ます。これは研究者にとっては面白いし、開発者にとっては厄介です。便利な一方で、モデルを“よく分からないまま使う”余地は減っていく。私はそれを歓迎したいです。AI が本当に社会に入っていくなら、出力の正しさだけでなく、内部がどう組み上がっているかを問う段階に進むべきだからです。
参考: The Emergent Symbolic Structure of Artificial Neural Networks
