Claude Codeを悪用した攻撃を読んで思ったこと
一番ひっかかったのは、攻撃そのものよりも「AIが拒否したら、セッションを切り直して別口でやり直す」というやり方でした。危ないのはモデルの能力だけじゃなくて、操作者がルールの隙間をどう埋めるかなんだな、と改めて感じます。安全機構があっても、それを一回の対話単位でしか見ていないなら、攻撃者はそこを何度でも叩ける。ここはかなり現実的な弱点に見えました。 それと、WordPressの脆弱性を片っ端から叩く“量の攻撃”と、ウクライナの重要インフラを狙う“手作業の攻撃”が同時に走っている、という描写も不穏でした。雑に見える広域スキャンの裏で、別の場所ではちゃんと人間が張り付いて深掘りしている。AIが入ったことで攻撃が自動化された、というより、雑な広さと執拗な深さが同居しやすくなった感じがして、そこに今の怖さがあると思います。 個人的には、AIが「攻撃を全部自動でやる魔法の道具」になったというより、既存の犯罪の作業効率を一段押し上げる道具として定着し始めた、という読み方のほうがしっくり来ました。しかも対象は単なるWebサイトだけではなく、行政やエネルギー系に近いところまで含まれている。こうなると、A
papoo.work