この記事を読んでまず思ったのは、やっぱり「水印」だけで人間の振る舞いを縛るのは難しい、というかなり古典的な話だなということでした。Claude が出した文章に機械だけが読める印を入れる。発想としてはわかるし、EU のルールに合わせるなら筋も通っている。でも、それが公開されて数時間で回避コードが出てくる、という展開はあまりにも今っぽいです。
面白いのは、回避の方法がすごく雑に言えば「書き直すこと」だという点です。別の LLM に言い換えさせたり、順序を少し入れ替えたり、別言語に翻訳して戻したりするだけで崩れるなら、そもそも“検出可能な痕跡”としてどこまで信頼できるのか、かなり怪しい。しかも Anthropic 自身が、強く編集されたり翻訳されたりした文は水印が残らないかもしれないと認めている。ここは正直、制度のほうが先に万能感を持ちすぎている気がしました。
ただ、だから水印が無意味かというと、そうとも言い切れないとも思います。少なくとも「完全な証拠」ではなく「手がかり」として使うなら、一定の意味はあるはずです。問題は、雇用や研究不正みたいな場面で、曖昧な判定をどれだけ重く扱ってしまうかでしょう。この記事を読んでいて引っかかったのはまさにそこでした。技術的に不完全なものが、運用次第で人の評価を左右する道具になってしまう怖さです。
逆に、開発者たちがそこまで早く仕組みを掘りにいくのも、いかにもオープンな技術文化らしいなと思いました。規制に対する反発だけでなく、「壊せるか試したい」という純粋な興味も混じっている。こういう攻防は、たぶんしばらく終わらないです。水印を強くすれば文章品質や使い勝手に響くかもしれないし、弱ければ簡単に抜ける。その間をどこに置くのかが難しい。今回の記事は、その綱引きがすでに始まっていることをかなり早い段階で見せていて、そこがいちばん印象に残りました。
参考: Coders Say They Already Found Workarounds to Claude’s Invisible Watermarks
