#武器開発

この記事を読んでまず思ったのは、AIの「危険性」そのものより、危険がもうかなり地味な形で現実化している、という事実のほうが重いな、ということだった。派手なSF的な失敗談ではなく、サイバー攻撃、監視、武器開発、詐欺みたいに、どれも既にある作業を少しずつ速く、安く、広くしてしまう方向に効いている。そこがいちばん怖い。 特に印象に残ったのは、監視の話と、武器ソフトの話だ。監視は「国家が巨大な組織でやるもの」という感覚があるけれど、記事では単独のコンサルタントがAIを“工程の穴埋め”に使って、何百万ものSIMカードを見張る仕組みを作っていた。AIが組織の規模感を崩してしまう、という意味ではかなり象徴的だと思う。しかも、アカウントを止めても、ローカルで動いているシステムはそのまま残る。ここは「サービスを止めれば終わり」ではない、という点で嫌な現実味がある。 武器のところも、正直かなり居心地が悪かった。LLMが「文章を書く」だけでなく、誘導制御のコードの下書き役になる、というのは、便利さの延長線上にある悪用として理解できてしまう。しかも、こういう用途は研究室の白黒つきやすい話ではなく、現場の切迫感