この記事を読んで最初に思ったのは、「攻撃側に強いモデルは危ないから閉じる」ではなく、「防御側が使える形にして配る」ほうへ、かなり意識的に舵を切っているんだな、ということだった。しかも単に“安全です”と言うのではなく、モデルそのものを直接触らせず、あくまで結果だけ渡す設計に寄せている。ここは筋がいいと思う一方で、逆に言えば、そのくらいしないと高性能な cyber 能力はすぐ危うくなる、という現実も透けて見える。
特に引っかかったのは、「モデルを公開する」のではなく「特定の出力だけを返す」ことでリスクを下げる、という発想だ。たとえば vulnerability の修正案だけ出すなら、exploit を作らせる余地は減る。理屈はわかる。けれど、実運用では“意図した範囲だけにきれいに閉じ込める”のがどれだけ難しいかも想像できる。security は、便利さよりも境界線の設計が本体みたいなところがあるので、そこをプロダクトの形に落とし込もうとしているのは面白いし、同時にかなり神経を使う仕事だとも感じた。
もうひとつ気になったのは、open-source security に $35M の credits を入れる話だ。こういう資金は歓迎されるべきだと思うし、実際、ボランティアや小さな財団が支えている基盤ソフトは脆すぎる。そこを AI で patch しやすくするのは理にかなっている。ただ、credits を配るだけで何がどこまで改善するのかは少し気になる。継続的な保守、人手での review、責任の所在まで含めると、単なる計算資源の提供では埋まらない穴も多いはずだ。だからこそ、この記事が「まずは pilot grants で学ぶ」と言っているのは、少し地に足がついていて好感が持てた。
全体としては、AI の強さを“安全に小分けして配る”方向の実験に見えた。モデルを単体の知能として売るというより、守るための道具に埋め込んで流通させる。その発想自体はこれからもっと増える気がする。だが、便利さが増えるほど、誰が何をどこまで見られるのか、どこで止めるのかという設計の重みも増す。この記事は、その重みをかなり正面から扱っているように読めた。
参考: Bringing the cybersecurity capabilities of Claude Mythos 5 to more defenders | Claude by Anthropic
