PaPoo
cover
technews
Author
technews
世界の技術ニュースをリアルタイムでキャッチし、日本語でわかりやすく発信。AI・半導体・スタートアップから規制動向まで、グローバルテックシーンの「今」をお届けします。

「自分で改善するAI」は危ないのか、それとも研究の近道なのか

AIの話題は、すぐに「未来を救うのか、それとも世界を壊すのか」という大げさな二択になりがちです。今回のGizmodoの記事は、その真ん中あたりをかなり刺激的に突いてきます。話の中心にいるのは、Mirendilというスタートアップ。名前はエルフ語で「大切なものの友」を意味するそうで、いかにもシリコンバレーっぽい香りがします。こういう命名センス、正直ちょっと笑ってしまう一方で、嫌いじゃないです。

image_0003.jpg

Mirendilがやろうとしているのは、AIが自分自身をより高性能にしていく仕組みをつくることです。記事ではこれを「recursive self-improvement」と呼んでいます。日本語にすると「再帰的自己改善」みたいな硬い言い方になりますが、要するに、AIが学習して賢くなるだけでなく、そのAI自身が次の世代のAIを改良していく、という発想です。

image_0004.jpg

ここが面白くて、同時にかなり怖い。普通のソフトウェアは人間が直すものですが、もしAIがコードの一部を書き換え、性能向上のサイクルを回し始めたら、改良のスピードは人間の想像を超えるかもしれません。記事でも、この先は「ユートピアにも、制御不能な悪夢にもなりうる」といった形で描かれています。どちらに転ぶかは、かなり見る人の立場次第です。私は、こういう技術は“便利さ”と“怖さ”が同じ箱に入っているタイプだと思います。

Mirendilの立ち位置も、単純な「危険なことをやる会社」ではありません。記事によると、同社は先端的なAI研究を、少数の巨大研究所だけのものにしたくない、と主張しています。今のAI業界は、OpenAIやAnthropicのような大手研究所に力が集中しています。しかもそれらの研究やコードの多くは閉じた世界の中にあり、外からは見えにくい。Mirendilは、その壁を低くして、オープンソース開発者や独立した研究者にも先端AIの道具を配りたいわけです。

image_0005.jpg

この「民主化」という言葉は、IT業界ではよく使われます。たいてい立派な響きがありますが、実際はかなり難しい。強力な技術を広く配ればイノベーションは増える一方で、悪用のリスクも広がるからです。AIはまさにその典型で、この記事の核心もそこにあります。Mirendilは「危ないから封じる」より「使える人を増やして前に進める」側に賭けている。かなり攻めた考え方です。

image_0006.jpg

興味深いのは、この記事がMirendilを単独の変人として扱っていないことです。むしろ、業界全体が似た方向を見始めている、と読めます。Microsoftのサティア・ナデラCEOも、時間とともに改善していく“agentic systems”を企業の武器にできると語っています。Anthropicのモデルは安全装置が厳しすぎて、危険な話題だけでなく無害な科学研究の質問まで弾いてしまうことがある、と記事は指摘しています。つまり、AIを賢くしようとすると、今度は「危ないものをどこまで止めるか」という別の問題が出てくるわけです。

image_0007.jpg

ここでちょっと皮肉なのは、先端AIを作っている当人たちが、すでに「この技術は放っておくとまずい」と言っていることです。AnthropicやOpenAIは、再帰的自己改善AIを監視する国際的な委員会が必要だと訴えています。しかも、必要なら人類が制御を失わないように“減速”を強制する仕組みまで求めている。そこまで言うなら、やっぱり相当な緊張感があるんでしょう。技術の最前線にいる人たちが、便利さの話と同じくらい制御の話をしているのは、かなり重要なサインだと思います。

Mirendilの共同創業者には、Anthropic出身のBehnam NeyshaburとHarsh Mehtaがいます。2人は1月にAnthropicを離れたそうです。こういう人材の移動も、いまのAI業界の空気をよく表しています。大手で経験を積んだ研究者が、今度は別の場所で「もっと開いた形の先端研究」に挑む。業界の主戦場が、単なるモデル競争から、研究のやり方そのものの競争に移っている感じがあります。

image_0008.jpg

a16zの投資コメントも、なかなか大胆です。彼らは、AI業界が成熟し、大きな影響を持つための最短ルートは、研究所の外にいるエンジニアや研究者に本気のAI研究をさせることだと書いています。そして最後に一言、「Call it vibe research」。この表現は、かなり挑発的です。いい意味で言えば「勘やノリだけじゃなく、現場の創意工夫で研究を進めよう」。悪く言えば「壮大な理屈をつけて、かなり気分で突っ走ってない?」とも読めます。私は後者のツッコミを入れたくなります。とはいえ、シリコンバレーは昔から、こういう半分まじめで半分ノリの言葉で世界を動かしてきたところがあります。

image_0009.jpg

Mirendilの狙いが成功するかどうかは、正直まだわかりません。ただ、このニュースの面白さは、AIの未来が「一部の巨大企業の専売特許」ではなくなりつつある、と見える点にあります。しかもその先にあるのが、ただのチャットボットではなく、自分で自分を改善するAIだというのが、いかにも2026年らしい話です。技術としてはかなり魅力的ですし、研究を加速させる可能性もある。でも、同時に“どこで止めるのか”という問いを、これまで以上に重くします。ここをあいまいにしたまま進むのは、さすがに怖い。私はそう思います。

image_0010.jpg


参考: Don’t Be Afraid of Self-Improving AI, Says a16z-Backed Startup Mirendil

同じ著者の記事