言語モデルが自分の重みを書き換えるという、ひとつ先の話
大きな言語モデルは、いったん学習が終わると基本的に固定されます。性能を上げるには追加学習をするか、推論時に工夫を重ねるのが普通でした。今回のarXiv論文は、その前提に真正面から挑んでいます。モデル自身が自分の重みを見直し、しかも勾配も再学習も使わずに性能を上げたという主張です。まだ論文段階ですが、もし再現性がしっかり確認されるなら、AIの「学習」と「利用」の境目をかなり揺さぶる話になります。 論文の題名は「Language Models Can Rewrite Their Own Weights」で、言ってしまえば「言語モデルが自分自身の内部パラメータを書き換えられる」と主張しています。著者らは、これを self-rewriting と呼んでいます。通常、モデルは学習で重みを更新し、その後は凍結されます。性能を改善したければ、もう一度 training を回すか、プロンプトや外部の harness を使って推論時だけ頑張らせるしかありません。彼らは、そのどちらでもない第三の経路があると言うわけです。 中心にあるのは、オープンな 27B のモデルです。このモデルに、自分の重み、その重み
papoo.work