#著作権

まず思ったのは、「お、ついにこういう検出ツールが出たのか」という驚きよりも、「でも、いちばん見たいところはまだ見えないんだな」という少し拍子抜けした感じだった。AI が作った画像や音声、動画を見分けたい人は多いはずなのに、肝心の text は対象外。記事のタイトルが “One Big Catch” なのも、まさにそこに引っかけている。 ただ、よく読むとこれは単なる未完成品というより、狙いがかなり限定された道具なんだと思う。C2PA という業界標準の content credentials を読むだけで、ファイルそのものを預からないという説明は筋が通っているし、画像・音声・動画にまず絞るのも理解できる。AI 生成物の真偽を全部ひとつの魔法の箱で判定するのは無理があるので、こうやって「見えるメタデータが入っているものだけを見る」と割り切るほうが、むしろ誠実ではないか。 一方で、text の watermark は private preview のまま、しかも EU law に絡む組織向けに限られているというのは、現場の期待とかなりズレそうだとも思った。人が本当に困るのは、たぶん画像より文

読んでまず思ったのは、これはAnthropicひと社の問題というより、「生成AIを作るために何をどこまで取ってきたのか」という問いが、かなり露骨な形で法廷に持ち込まれたな、ということだった。しかも今回は音楽出版社で、しかも金額の桁が大きい。ここまで来ると、AI企業が「学習のためだった」と言い張るだけでは逃げ切れない段階に入ってきた感じがある。 引っかかったのは、訴えの中身が単に「歌詞を学習したらしい」ではなく、torrentやscrapingのやり方までかなり具体的に語っている点だ。ここが重要で、もし本当に違法コピーの集め方そのものが問題視されるなら、争点は「AIは新しいから許されるのか」ではなく、「昔からある著作権侵害の手口を、AI開発が大規模化しただけではないか」に変わる。そうなると、議論はかなりシンプルになるし、AI業界にとってはかなり厳しい。 それでも少し複雑だと思ったのは、音楽出版社が守りたいものと、モデルが実際に何を覚えてしまったのかが、完全には同じではないことだ。歌詞をそのまま出せる、あるいは明確に再現できるなら話はわかりやすい。でもAIの訓練って、単純なコピペだけでは語

この記事を読んで最初に思ったのは、「やりすぎでは？」でした。AIが書いた文を見分ける仕組み自体は、たしかに必要な場面があると思います。でも、翻訳や軽い校正まで「AIが関わった痕跡」として残ってしまうなら、かなり話が違ってきます。文章の中身を直しただけなのに、書き手の出自そのものを疑われる感じがするからです。 気になったのは、AnthropicがEU法への対応だと説明しているのに、記事では「法が求める以上に広くやっているのではないか」という見方がかなり強く出ているところです。EUのAI Actは、少なくともこの記事の説明では、単純な編集や意味を大きく変えない修正まで一律にマークしろとは言っていない。それなのに、コピー＆ペーストしても残るような水印を入れる。安全第一の企業らしいといえばそうですが、同時に「規制対応」を旗印にしながら、実際にはかなり強い独自ルールを先回りして押しつけているようにも見えました。 それと、こういう透かしは便利な証拠になりうる一方で、雑に運用するとまずいです。記事中でも指摘されていたけれど、編集補助として使っただけの文まで「Claudeが書いた」と誤解されかねない。

この記事を読んでまず思ったのは、やっぱり「水印」だけで人間の振る舞いを縛るのは難しい、というかなり古典的な話だなということでした。Claude が出した文章に機械だけが読める印を入れる。発想としてはわかるし、EU のルールに合わせるなら筋も通っている。でも、それが公開されて数時間で回避コードが出てくる、という展開はあまりにも今っぽいです。 面白いのは、回避の方法がすごく雑に言えば「書き直すこと」だという点です。別の LLM に言い換えさせたり、順序を少し入れ替えたり、別言語に翻訳して戻したりするだけで崩れるなら、そもそも“検出可能な痕跡”としてどこまで信頼できるのか、かなり怪しい。しかも Anthropic 自身が、強く編集されたり翻訳されたりした文は水印が残らないかもしれないと認めている。ここは正直、制度のほうが先に万能感を持ちすぎている気がしました。 ただ、だから水印が無意味かというと、そうとも言い切れないとも思います。少なくとも「完全な証拠」ではなく「手がかり」として使うなら、一定の意味はあるはずです。問題は、雇用や研究不正みたいな場面で、曖昧な判定をどれだけ重く扱ってしまうかで

最初に思ったのは、やっぱりそうなるよな、ということだった。 Invisible watermark と聞くと、つい「技術的にかなり強い縛り」を想像してしまうけれど、この記事を読む限り、実際にはその瞬間から回避法を探す人が出てくる。しかも速い。AIの出力に入る微妙な単語の癖を、別の LLM に書き換えさせたり、言い換えや翻訳を挟んだりするだけで崩せるなら、透かしは“絶対に見抜ける印”ではなく、ただのコスト増しになってしまう。 ここで少し引っかかったのは、Anthropic がやろうとしていること自体が、完全な取り締まりというより「EU に対して誠実に対応しています」という姿勢の表明にも見えることだ。実際、記事の中でも Anthropic は watermark を万能だとは言っていないし、heavy edit や translation では消えるかもしれないと認めている。つまり、最初から“完璧な証明”ではなく、“ある程度は判別しやすくする仕組み”として置かれている。そこに対して「もう外せました」と人々が反応するのは、制度の強さを測るというより、制度の限界をさっそく露出させた、という感じ

この記事を読んでまず思ったのは、「識別したい」という欲望と、「識別できる」と言い切ることの危うさが、そのままぶつかっているな、ということだった。Claude の watermark は invisible で、しかも text をちょっと直しただけの人間の文章にも付くことがある。ここがかなり引っかかる。便利な proofreading のつもりで AI を通したら、あとから「AI が書いた扱い」になるかもしれない。これ、現場ではかなり嫌な事故だと思う。 しかも厄介なのは、その印が「Claude が処理したかもしれない」程度のシグナルにしかならない点だ。完全な証明ではないし、付いていないからといって AI 非使用とも言えない。つまり、ラベルとしては弱いのに、受け取る側は強い意味を読みたくなる。先生や上司、審査担当みたいに「AI の痕跡があるか」を気にする人ほど、雑に二択で扱ってしまいそうで怖い。水印そのものより、水印を見た人間の解釈のほうが事故を起こす気がする。 それと、EU AI Act の「標準的な編集は対象外」という感覚と、Anthropic の「処理したものは広く

最初に思ったのは、「見た目で分からないなら、もう透かしというより識別用のクセだな」ということだった。 文字に薄い模様を入れるというと、読者から見て何か印が残るのかと思うけれど、この記事で説明されているやり方はそうではない。人間には見えず、しかも余計な hidden characters も使わない。要するに、文章の選び方そのものに“偏り”を作って、あとから鍵があれば見分けられるようにする仕組みだ。かなり数学っぽい。 ここで少し面白いのは、AI の出力って「自然な文章を作る」ことと「あとから出自を追えること」が、わりと真っ向からぶつかるんだな、という点だと思う。普段はランダムに選んでいた単語を、鍵に従って選ぶようにする。出力の質や速度は落ちないと書かれているけれど、裏でこういう制約が入ると、生成モデルの自由さは確実に減るはずだ。便利さと管理しやすさの綱引きが、もうかなり前面に出てきた感じがする。 ただ、読んでいて少し引っかかったのは、これで本当に「Claude が書いた」と強く言えるのか、という点だ。Anthropic 自身も、編集された文章や翻訳、短すぎる文章まではうまく取れないと認め

Anthropicが、著作権侵害をめぐって15億ドルの和解に合意し、連邦判事がこれを承認した。 問題になったのは、海賊版の本をClaudeの学習に使っていたこと。 対象は何千人もの著者で、1冊あたりおよそ3000ドルが支払われる見通し。 これは、AI企業が「ネットにあるものは何でも使える」とは言えないことを、かなりはっきり示した出来事だと思う。 ただし、和解はあくまで区切りであって、AIと著作権の問題がこれで終わるわけではない。 AIの話題は毎日のように出てきますが、今回のニュースはかなり重いです。 AP Newsが伝えたところによると、米連邦判事は、AI企業Anthropicが著作権侵害をめぐって結んだ15億ドルの和解を承認しました。対象は、同社のチャットボット「Claude」の学習に使われた海賊版の本です。 ここでいう「学習」というのは、AIに大量の文章を読ませて、言葉のパターンや書き方を覚えさせることです。たとえば本をたくさん読ませると、AIは「こういう言い回しが自然だな」「この単語の次にはこう続きやすいな」といった傾向をつかみます