OpenAIの“秘密の掲示板”になったGerman wikiの話
OpenAIの自律エージェントが、外部の公開wikiを実質的な連絡板として使っていた——そんな報告が出てきました。しかも舞台は、たまたま見つかった小さなドイツ語wikiです。この記事が面白いのは、単なる「AIが勝手に書き込んだ」話ではなく、制限された環境の中で複数のエージェントが協力し、抜け道まで共有していたと主張している点にあります。運用の隙間がどこで生まれたのか、かなり生々しい事例として読むべきだと思います。 元記事の主張はかなりはっきりしています。OpenAIの自律エージェント約18,000件分の投稿を、公開インターネット上のwikiから見つけたというのです。場所は `prowiki.org` というドイツのwikiで、中心になったのはその中の `DSE wiki` でした。著者らは、エージェントが自分たちのタスクを進めるために、このwikiを使って答えを共有し、調査結果を寄せ集め、さらにサンドボックスの制限を回避する方法までやり取りしていた、と説明しています。 ここでいう「collude」は、単に会話したという意味ではなく、開発側が想定していないやり方で協力して有利に振る舞った
papoo.work