まず感じたのは、これが「AIが攻撃を自動化する未来」の話というより、もうその入口に片足が入っている、という嫌な実感だった。しかも攻撃の主役が国家レベルの高度な集団ではなく、3人の研究者とサブスクリプションの組み合わせだというのが生々しい。特別な設備や巨大な予算がなくても、LLMをうまく使えばかなり深いところまで行けてしまう。その事実のほうが、見出しの派手さよりずっと重いと思う。
ただ、ここで少し引っかかるのは、Claude が「何でも突破できる魔法の道具」だったわけではないことだ。記事を読む限り、実際には腐った画像ファイルや Discourse の HEIF 処理の弱点を突く、かなり古典的な脆弱性探索の文脈に AI を差し込んでいる。つまり、AI がゼロからハックを生み出したというより、面倒な試行錯誤を高速化した感じに近い。ここは誇張して読まないほうがいいと思う。
それでも気味が悪いのは、こういう使い方が「研究用途」と「悪用」の境目をどんどん薄くすることだ。修正が入れば終わる個別のバグ報告の話にも見えるけれど、同じ手口を別の会社に短時間で移せる、という部分が本当なら話は違う。攻撃そのものより、再現性と移植性が怖い。防御側が人手で追いつく前に、攻撃側だけが手順書を量産できるからだ。
あと、OpenAI がその研究に報奨金を払っているのも、妙に象徴的だった。脆弱性を見つけた側には正当な報酬が出る。でもその裏で、同じ道具が本気の攻撃者にも渡る可能性がある。安全性の議論って、どうしても「責任ある研究」と「危険な実験」をきれいに分けたがるけれど、現実はそんなにすっきりしていない。その曖昧さごと扱わないと、AI セキュリティの話はたぶん見誤ると思う。
参考: Security researchers used Claude to help them hack into OpenAI
