#eu_ai_act

最初に思ったのは、モデルの性能や価格よりも、EU AI Act をめぐる設計のほうが記事の芯になっている、ということだった。 75%の cache read 値下げはたしかに大きい。けれど、読み進めるほど印象に残るのは、出力に watermark を付ける話と、その検出 API が「誰でも使える」はずだったのに、実際にはかなり絞られている点だと思う。 ここ、少し引っかかる。法律上は synthetic output を機械的に判別できるようにしなければならないのに、検出手段は regulators や media、researchers などに限られる。一般の利用者が自分で確かめる道が最初から開いていないなら、「透明性」をどこまで実感できるのかは微妙だ。制度としては前進でも、現場感はまだ弱いのではないかと思う。 もうひとつ面白かったのは、Anthropic が同じモデルを safeguard の違いで Fable と Mythos に分けているところだ。技術そのものの話に見えて、実際には「どこに配るか」「誰に使わせるか」の政治がかなり濃い。特に Mythos が cybersecuri

この記事を読んでまず思ったのは、「識別したい」という欲望と、「識別できる」と言い切ることの危うさが、そのままぶつかっているな、ということだった。Claude の watermark は invisible で、しかも text をちょっと直しただけの人間の文章にも付くことがある。ここがかなり引っかかる。便利な proofreading のつもりで AI を通したら、あとから「AI が書いた扱い」になるかもしれない。これ、現場ではかなり嫌な事故だと思う。 しかも厄介なのは、その印が「Claude が処理したかもしれない」程度のシグナルにしかならない点だ。完全な証明ではないし、付いていないからといって AI 非使用とも言えない。つまり、ラベルとしては弱いのに、受け取る側は強い意味を読みたくなる。先生や上司、審査担当みたいに「AI の痕跡があるか」を気にする人ほど、雑に二択で扱ってしまいそうで怖い。水印そのものより、水印を見た人間の解釈のほうが事故を起こす気がする。 それと、EU AI Act の「標準的な編集は対象外」という感覚と、Anthropic の「処理したものは広く