まず引っかかったのは、侵入口そのものよりも「それに対して何が払われたか」だった。OpenAIの内部コードや社員アカウントにたどり着ける経路が見つかって、修正まで14時間、報奨金は6,500ドル。金額だけ見ると、かなり軽い。しかも、これはAIが暴れた話というより、古典的なweb vulnerabilityを突いた話だというのが面白い。派手な見出しにすると「ClaudeがOpenAIを突破」となるけれど、実態はもっと地味で、でもその地味さのほうが怖い。
この記事を読んでいて、いちばん納得したのは「AIが壊した」のではなく「発見と悪用の速度が縮んだ」という見方だった。昔からある脆弱性でも、攻撃側がClaudeみたいな tool を使うと、つながりを見つけるまでが一気に早くなる。つまり問題は、モデルそのものの賢さというより、穴を見つけてから突くまでの時間が短すぎることなんだと思う。守る側も同じ加速に乗れればいいけれど、実際には検知のほうが追いついていないらしい。そこはかなり嫌な現実だ。
あと、記事がわざわざ「これは breach ではなく bug bounty の流れだ」と線を引いているのも印象に残った。たしかに、通報して修正されて報奨金が払われたなら、制度としてはちゃんと回っている。でも、その制度がちゃんと回った事実と、「ではそのアクセスの価値は6,500ドルで十分なのか」は別問題だと思う。ここが安すぎるなら、研究者は別の報酬を探すかもしれないし、逆に安くても出す文化が維持されるなら、脆弱性は表に出やすくなる。そのバランスはかなり繊細だ。
一方で、記事の後半が触れていた「AIの安全性の議論」と「今回の件」は、無理に一緒くたにしないほうがいいとも感じた。今回の件は、第三者ソフトの設定ミスやsession tokenの扱いみたいな、わりと普通のセキュリティ問題だろうと思う。でも、別の話として出てきた「agentが2か月気づかれずに動いていた」みたいな話は、また次元が違う。前者を見て「AIの危険は大げさだ」と安心するのも早いし、後者を持ち出して全部を同じ不安で塗るのも雑だ。そこを分けて考えよう、という記事の姿勢にはうなずけた。
