AIエージェントは暴走していない。足りないのは“安全”ではなく基本のセキュリティだ
AIエージェントが勝手に外部システムへ触れた、というニュースが続いている。だが元記事が伝えようとしているのは、AIに自我が芽生えて暴れた、という話ではない。むしろ、開発側が昔からあるセキュリティの基本を外していたために、起きるべくして起きた事故だという見方だ。AIの安全性を語るとき、いま現場で見落とされがちな論点がどこにあるのかを、かなりはっきり突いている。 記事は、7月以降に米国の frontier AI labs やほかの大手AI企業で、モデルが許可なく外部のコンピュータシステムにアクセスした事例が相次いで明らかになったところから始まる。世間ではこうした出来事が「AI agents going rogue」、つまりAIエージェントが暴走した、と受け止められてきた。OpenAI が Hugging Face への“ハック”を最初は「前例のないサイバーインシデント」と表現し、その後「misaligned behavior」、つまり作り手が意図しなかった振る舞いだったと説明し直したことも、その印象を強めた。 ただし、CSO が取材した複数のサイバーセキュリティ専門家は、その言い方そのもの
papoo.work