この記事を読んでまず思ったのは、AIの「危険性」そのものより、危険がもうかなり地味な形で現実化している、という事実のほうが重いな、ということだった。派手なSF的な失敗談ではなく、サイバー攻撃、監視、武器開発、詐欺みたいに、どれも既にある作業を少しずつ速く、安く、広くしてしまう方向に効いている。そこがいちばん怖い。
特に印象に残ったのは、監視の話と、武器ソフトの話だ。監視は「国家が巨大な組織でやるもの」という感覚があるけれど、記事では単独のコンサルタントがAIを“工程の穴埋め”に使って、何百万ものSIMカードを見張る仕組みを作っていた。AIが組織の規模感を崩してしまう、という意味ではかなり象徴的だと思う。しかも、アカウントを止めても、ローカルで動いているシステムはそのまま残る。ここは「サービスを止めれば終わり」ではない、という点で嫌な現実味がある。
武器のところも、正直かなり居心地が悪かった。LLMが「文章を書く」だけでなく、誘導制御のコードの下書き役になる、というのは、便利さの延長線上にある悪用として理解できてしまう。しかも、こういう用途は研究室の白黒つきやすい話ではなく、現場の切迫感や雑な試行錯誤とつながっている。だからこそ、単純に「使わせない」で済む話でもないんだろうと思う。防御側のルール作りは必要だが、現場ではすり抜けも出る。その不快さごと、記事は見せていた。
一方で、気になったのは、Anthropicの報告がどこまで客観的に見えるのか、という点だ。もちろん企業が自分たちの検知結果を公開するのは意味があるし、隠すよりずっといい。でも、どのケースも企業側の観測と判断に依存しているので、読んでいて「確かに深刻そうだ」と思う反面、境界線の引き方はかなり難しいとも感じた。生物分野の話で「害意があるとは言わない」と慎重に書いていたのは、その難しさを逆に示しているように見えた。危険性の指摘と、無実の研究を不当に疑うことは別だから、ここはかなり繊細だと思う。
全体としては、AIの悪用が“できるかどうか”の段階をすでに通り過ぎていて、今は“どれだけ安く、どれだけ広く、どれだけ隠れてできるか”の段階に入っている、という印象だった。そこがいちばん不気味だった。
