大きな言語モデルは、いったん学習が終わると基本的に固定されます。性能を上げるには追加学習をするか、推論時に工夫を重ねるのが普通でした。今回のarXiv論文は、その前提に真正面から挑んでいます。モデル自身が自分の重みを見直し、しかも勾配も再学習も使わずに性能を上げたという主張です。まだ論文段階ですが、もし再現性がしっかり確認されるなら、AIの「学習」と「利用」の境目をかなり揺さぶる話になります。
論文の題名は「Language Models Can Rewrite Their Own Weights」で、言ってしまえば「言語モデルが自分自身の内部パラメータを書き換えられる」と主張しています。著者らは、これを self-rewriting と呼んでいます。通常、モデルは学習で重みを更新し、その後は凍結されます。性能を改善したければ、もう一度 training を回すか、プロンプトや外部の harness を使って推論時だけ頑張らせるしかありません。彼らは、そのどちらでもない第三の経路があると言うわけです。
中心にあるのは、オープンな 27B のモデルです。このモデルに、自分の重み、その重みに対する採点済みの回答、そして自分自身を実行できる能力を与えます。するとモデルは、自分がどこで失敗したかを診断し、失敗の原因にあたる重みを自分で書き換える。しかも、その場で新しい答えを出すだけではなく、書き換えた重みは次の問題にも効く、というのが論文の主張です。著者らは、見たことのない問題で 6.6 ポイントの正確性向上があったと述べています。
さらに面白いのは、単発の成功で終わらない点です。モデルは practice problems で自分の編集案を試し、うまくいったものだけを残す形で改善を重ねたとされています。その結果、8 回連続のセッションで精度が上がり続けたと報告しています。単に「一度だけ賢くなった」のではなく、自己修正のループが回り続けたという描き方です。
もう一つの実験は、壊れたコピーの修復です。著者らは、自分のモデルのコピーを意図的に壊し、ほとんど解けない状態にします。それでも元の重みを読み直すことなく、しかも再学習なしで、そのコピーを画像タスクで元の精度の 80% 超まで戻したとしています。ここでも重要なのは、モデルが外から「再構築」されたのではなく、自分の推論だけで修理をやり切った、という点です。
論文はさらに、規模が小さいとこの能力が出ないことも示します。あるモデルファミリーでは、小さいモデルは編集に失敗するか、自分自身を壊してしまい、最大のモデルだけが改善と修復の両方を実現したとされています。つまり、この能力は何でもかんでも小型モデルに持たせられる性質ではなく、ある程度のスケールが必要だという見方です。著者らは、こうした自己書き換えが test-time scaling と違って、得られた改善を重みに書き込むので、答えごとの追加コストがかからないとも主張しています。訓練とは違い、やっているのは forward pass だけで、推論に近い形で動くとも説明しています。
まず気になるのは、この話がかなり強い言葉で書かれていることです。self-rewriting という言い方は刺激的で、AI が自分で自分を改造していく未来を想像させます。ただ、ここで実際に起きているのは、何もないところから知能が湧いたわけではなく、かなり整えられた条件のもとで、モデルが自分の失敗を分析し、限定された形で重みを更新した、ということだと思います。だから「自己進化の始まり」と受け取るのは早い。むしろ、モデルが内部表現を使って自己診断し、修正候補を作れることを示した、と見るほうが冷静です。
それでも、従来の「学習」と「推論」の分業を崩すという意味は大きいです。今のAI運用では、性能を上げる作業は学習工程に閉じ込められています。現場で推論しながらモデル自身が恒久的に変わることは、通常は避けます。安全性、監査、再現性、責任分界が崩れるからです。今回の論文は、その境界が知能の本質ではなく、我々の道具立ての都合かもしれない、と突きつけています。これは魅力的でもあり、同時に少し怖い。便利さの裏で、モデルの挙動が時間とともに変質していく可能性があるからです。
6.6ポイントという数字は目を引きますが、読むときは慎重さも必要です。論文が示しているのは、特定のベンチマークや条件の下での改善であって、あらゆるタスクで恒常的に優位という意味ではありません。とはいえ、見たことのない問題で改善したという点は軽く見られません。単に練習問題に過適合しただけではなく、少なくとも一部の編集が汎化している可能性を示すからです。ここは、かなり重要な一歩だと思います。
同時に、こうした成果は「何を評価対象にしたか」で見え方が変わります。自己修正で上がるのは、多くの場合、モデルが自分の弱点を認識しやすい種類の問題でしょう。逆に、データの偏りや長期的な知識の更新が必要な場面で同じことが起きるかは別問題です。つまり、この論文は「万能な自己改造」を証明したわけではなく、「自己診断と局所的な改善」が思ったより強い、という線で読むのが妥当です。私はここに、この研究の面白さと限界の両方があると思います。
壊れたコピーの修復は、派手な実験に見えて実はかなり実務的です。モデルを圧縮したり、誤って損傷したり、別の環境に持っていったりしたとき、通常は元のモデルを再学習し直す必要があります。もしモデル自身が「自分の調子の悪さ」を見て、その場である程度まで戻せるなら、保守の考え方が変わるかもしれません。障害復旧や継続学習の設計に、新しい余地が生まれます。
ただし、ここで誤解してはいけないのは、自己修復がそのまま安全性の向上を意味するわけではないことです。壊れたものを直せるのと、望ましい方向にだけ直せるのは別です。自己書き換えが進むほど、外から見た制御は難しくなります。しかも論文は、サイズが小さいモデルでは編集に失敗したり、壊れたりすると述べています。つまり、この能力は「誰でも簡単に使える自動修理」ではない。強いモデルだけが扱える、繊細な技術かもしれません。そう考えると、運用上はむしろ慎重に扱うべき機能だと感じます。
もしこの方向が広がるなら、AI開発の重心は「学習済みモデルをどう鍛えるか」だけでなく、「モデルが自分をどう更新するか」を設計するほうへ移っていくはずです。プロンプトの工夫や後付けの harness で結果を押し上げる時代から、重みの側に改善を定着させる時代へ、少しずつ軸がずれる。これは研究者だけでなく、AI を組み込む企業にとっても大きい話です。モデルの更新履歴、監査の手順、ロールバックの方法まで含めて考え直す必要が出てくるからです。
一方で、私はこの研究を「もう学習は不要になる」とは見ません。むしろ逆で、学習と推論の境界が曖昧になるほど、何をどこまでモデルに任せるかを人間側が明確にしないと危ないと思います。自己書き換えは、たしかに知能のあり方として面白い。でも実装の世界では、便利さより先に制御の話が来るはずです。この論文は、その入口に立った段階の報告として読むのが一番しっくりきます。まだ未来図ではあるけれど、無視できない未来図です。