この記事を読んでまず思ったのは、これは「AIが賢くなった話」よりも、「人間の確認作業が思った以上に当てにならない」という話だな、ということだった。少し意地の悪い言い方に聞こえるけれど、本文のトーンもそこをかなりはっきり突いていて、そこに妙なリアリティがある。
Claude Code の auto mode をデフォルトに寄せる、というのは一見すると攻めた仕様変更に見える。でも記事を読むと、その判断の根拠が「人間が危ないコマンドを見逃すから」という話で、そこがちょっと怖い。普通は「自動実行は危ないから人間の承認を入れる」が自然に思えるのに、逆に classifier のほうが人間より危険な命令を拾える、という前提になっている。ここには、レビューや確認という行為への信仰がかなり揺らいでいる感じがある。

ただ、私はこの話を単純に「人間はダメ、AIはすごい」とは受け取れなかった。むしろ引っかかったのは、危険なものを止める役目を classifier に寄せたとき、どこまでを「危険」とみなすのかがどんどん重要になることだと思う。開発者が本当に見たいのは、見た目が危なそうなコマンドだけではなく、文脈次第で危なくなる操作のはずだ。そこを機械に任せるほど、境界線の設計が雑だと困る。便利さの裏で、最後に残るのは「誰が責任を持つのか」という古い問題ではないかと思う。
あと、こういう機能はたぶん、使う人の心理をかなり変える。最初は「自動で進むのは助かる」でも、慣れると人は確認を雑にする。記事が示しているのは、その雑さを前提にして仕組みを作らざるを得ない段階に来ている、ということなのかもしれない。開発ツールが賢くなるほど、逆に人間側の注意力の限界が目立ってくるのが面白いし、少し不気味でもある。


参考: Auto Mode will soon be the default in Claude Code — because humans can't be trusted