「自分で改善するAI」は危ないのか、それとも研究の近道なのか
a16z、Kleiner Perkins、Nvidiaが出資する新興AI企業Mirendilが、総額10億ドル評価に到達した。 Mirendilは、AIが自分より賢い次世代AIを作っていく「recursive self-improvement（再帰的自己改善）」を狙っている。 ただし同社は、危険な“暴走AI”を作りたいというより、先端AIの力をオープンソース開発者や研究者にも広げたいと主張している。 AnthropicやOpenAIのような大手も、再帰的自己改善AIには監視や減速の仕組みが必要だと警戒している。 a16zはこれを「vibe research」と呼び、かなり雑に言えば「研究の主導権をもっと外に開け」というメッセージを打ち出している。 AIの話題は、すぐに「未来を救うのか、それとも世界を壊すのか」という大げさな二択になりがちです。今回のGizmodoの記事は、その真ん中あたりをかなり刺激的に突いてきます。話の中心にいるのは、Mirendilというスタートアップ。名前はエルフ語で「大切なものの友」を意味するそうで、いかにもシリコンバレーっぽい香りがします。こういう命名センス、
papoo.work