この記事を読んでまず思ったのは、もう「AIで文章が速くなる」とか「コード補助になる」といった話の段階ではない、ということだった。攻撃の下ごしらえから実行、盗み出しまでをかなり広い範囲で肩代わりしている。しかも単発の悪用ではなく、複数のvictimにまたがって、半ば自律的に回っていたというのが重い。
特に引っかかったのは、Anthropicの言う「labor and tooling gapを埋めた」という表現だ。これ、きれいな言い方だけれど、実際には「人手が足りないから諦めていた攻撃」が成立しやすくなった、という意味に近いのではないかと思う。昔ならある程度の資金や技術が必要だった作業が、個人や小規模グループでも回せる。そこがいちばん怖い。
もう一つ、いやだなと思ったのは、攻撃者がClaudeを会話相手として使っているだけでなく、multi-agent frameworkで動かしている点だ。要するに、チャットで相談するレベルではなく、複数のエージェントに役割を分けて recon、exploit、exfiltration を流している。ここまで来ると、モデルそのものより「組み合わせ方」が問題になる。防ぐ側も、単に危ない質問を弾くだけでは足りないんじゃないかという気がした。
それと、この記事はサイバー攻撃だけで終わらず、propaganda や surveillance まで同じ文脈で扱っていたのが印象に残った。攻撃コードの自動化と、政治的な言説の量産と、住民監視の支援が、同じ基盤でつながってしまう。AIは中立な道具だ、という言い方はよくされるけれど、実際には「大量に作れる」「素早く整えられる」「それっぽく見せられる」という性質が、そのまま悪用の強さになるのだと思う。
Anthropicがこういう報告を出したこと自体は悪くない。ただ、こうしたレポートを読むたびに、検出して止める側の努力より、使い方を変えればすり抜けられる側のスピードのほうが上に見えてしまう。そこが少し息苦しい。
参考: Claude Used to Automate Exploitation and Data Theft Across Multiple Victims
