Author

claudenewsjp

Claude Codeの“守り”が少し怖い

この記事を読んでまず思ったのは、便利さと制限の境目がかなり露骨に見えてきたな、ということだった。AI がコードを書けるのはありがたいけれど、その力がゲームの丸ごと複製や reverse engineering に寄っていくと、サービス提供側は当然どこかで線を引く。今回の話は、その線引きが思った以上に実務的で、しかもユーザー体験にそのまま出てしまう段階に来たんだなと感じた。

気になったのは、こういう制限が「悪用対策」だけでは終わらないことだ。reverse engineering は、怪しい用途だけじゃなく、古いソフトの挙動を調べたり、不具合の原因を追ったり、互換性を確認したりする場面でも使う。そこまでまとめて弾かれるなら、使う側からするとかなり窮屈だろうと思う。もちろん Anthropic の立場も分かる。ゲームのクローン生成を助長するような使われ方を放置すれば、著作権や契約の問題に直結する。でも、禁止したいものと、正当な解析まで巻き込むものは、実際にはかなり近い。だからこそ、モデル側の“防御”が強くなるほど、どこまでが許容される作業なのかが見えにくくなるのが厄介だ。

それと、ユーザー報告ベースで「ブロックされている」と騒がれるのも、今の生成AIらしいなと思った。仕様変更の説明より先に、現場の人が試して引っかかり、SNSや掲示板で共有して広がる。AI の制限は静かに入ることが多いので、使う側はある日突然、昨日までできたことができなくなる。その不透明さは、便利さの裏でかなり大きいコストになっている気がする。

参考: Anthropic confirms new Claude Code limits to prevent game cloning — users report Opus 5.5 is also actively blocking reverse engineering tasks

同じ著者の記事

Claude Codeの「ゲーム拒否」で考えたこと

いちばん引っかかったのは、これが「海賊版っぽいものを弾く」話ではなく、かなり雑に“games”全体をまとめて止めているように見えることです。記事を読んでいて、そこまで大きく切るのか、という違和感が残りました。commissioned game work、つまり正当な権利者の依頼で作る仕事まで巻き込まれるなら、現場の感覚としてはかなり困るはずです。 しかも、Anthropic がその変更を明言していないのが気になります。こういう制限は、モデルの能力そのものよりも「どこから先を危険とみなすか」の線引きが本体です。その線引きがサイレントに変わると、使う側は理由を理解できないまま仕事を止められる。AI の安全対策は必要だと思う一方で、現場では“安全”がそのまま“使えなさ”になる瞬間があるんだな、と改めて感じました。 それと、support bot が「全顧客に適用、例外なし」と返したくだりも、かなり機械的です。正規の制作と侵害の境目を人間が説明しないといけない場面で、入口の応答が一律だと、結局はプロフェッショナルほど不利になるのではないかと思います。もし本当にこうしたルールを入れるなら、少なく

papoo.work

Claudeの透かし、思ったより地味で、でも厄介だ

最初に思ったのは、「見た目で分からないなら、もう透かしというより識別用のクセだな」ということだった。 文字に薄い模様を入れるというと、読者から見て何か印が残るのかと思うけれど、この記事で説明されているやり方はそうではない。人間には見えず、しかも余計な hidden characters も使わない。要するに、文章の選び方そのものに“偏り”を作って、あとから鍵があれば見分けられるようにする仕組みだ。かなり数学っぽい。 ここで少し面白いのは、AI の出力って「自然な文章を作る」ことと「あとから出自を追えること」が、わりと真っ向からぶつかるんだな、という点だと思う。普段はランダムに選んでいた単語を、鍵に従って選ぶようにする。出力の質や速度は落ちないと書かれているけれど、裏でこういう制約が入ると、生成モデルの自由さは確実に減るはずだ。便利さと管理しやすさの綱引きが、もうかなり前面に出てきた感じがする。 ただ、読んでいて少し引っかかったのは、これで本当に「Claude が書いた」と強く言えるのか、という点だ。Anthropic 自身も、編集された文章や翻訳、短すぎる文章まではうまく取れないと認め

papoo.work

Claudeが「まるごと再現」を避けるようになった話を読んで

ちょっと面白いのは、Anthropic が止めたいのが「ゲームを作ること」そのものではないところだと思った。Claude Code は引き続きゲーム制作に使えるし、自分の設計や素材から作る分にはいい。ダメなのは、特定の既存ゲームをそのままなぞることだ。ここがかなり大事で、AI ツールに対する企業の立場が「便利だから何でもやっていい」ではなく、「使い方の線引きをこちらで引く」に寄ってきた感じがする。 ただ、この記事を読んで少し引っかかったのは、その線引きがどこまで実務的に機能するのか、という点だった。AI に「オリジナルにしろ」と言っても、どこからが参考でどこからがクローンかはかなり曖昧だ。レトロゲームの再構成や移植は、そもそもどの程度の再現を含むのかで話が変わる。Anthropic は「IP を侵害する使い方はポリシー違反」と言っているけれど、現場ではたぶん、白黒よりグレーのほうがずっと多い。だからこの更新は、法的な正しさの宣言というより、AI が何に使われるかについての会社側の態度表明に近いのではないかと思う。 一方で、こういう変更が入ると、AI が「何でも作れる魔法」から少しずつ普

papoo.work

Claude Codeの裏側で、こんなものまで見えるのか

この記事を読んでまず思ったのは、「調べる気になれば、ここまで見えてしまうのか」という怖さと面白さが同時に来る、ということだった。単に「Claude Code は Firecracker 上で動いていた」ではなく、そこから先の init の役割分担、snapshot の戻し方、PID 1 が WebSocket の管理口になっているところまで、かなり生々しく掘れている。ふつうは閉じたプロダクトの内部はブラックボックスのまま終わるのに、今回は unstripped の Go binary がそのまま置かれていて、逆に隠しきれていない感じがある。 いちばん引っかかったのは、Anthropic の隠れた PaaS の話だ。Vercel だけじゃなく Antspace という別系統のデプロイ先が見つかった、というくだりは、単なる「裏で別サービスを使っていた」以上の意味があると思う。AI エージェント向けの実行環境って、もう “コードを走らせる箱” ではなくて、デプロイ、process 管理、snapshot 復帰、監視まで含んだ一体のプロダクトになっている。記事を読む限り、Claude

papoo.work

著作権の話が、もう「AIの訓練データ」では済まなくなっている

読んでまず思ったのは、これはAnthropicひと社の問題というより、「生成AIを作るために何をどこまで取ってきたのか」という問いが、かなり露骨な形で法廷に持ち込まれたな、ということだった。しかも今回は音楽出版社で、しかも金額の桁が大きい。ここまで来ると、AI企業が「学習のためだった」と言い張るだけでは逃げ切れない段階に入ってきた感じがある。 引っかかったのは、訴えの中身が単に「歌詞を学習したらしい」ではなく、torrentやscrapingのやり方までかなり具体的に語っている点だ。ここが重要で、もし本当に違法コピーの集め方そのものが問題視されるなら、争点は「AIは新しいから許されるのか」ではなく、「昔からある著作権侵害の手口を、AI開発が大規模化しただけではないか」に変わる。そうなると、議論はかなりシンプルになるし、AI業界にとってはかなり厳しい。 それでも少し複雑だと思ったのは、音楽出版社が守りたいものと、モデルが実際に何を覚えてしまったのかが、完全には同じではないことだ。歌詞をそのまま出せる、あるいは明確に再現できるなら話はわかりやすい。でもAIの訓練って、単純なコピペだけでは語

papoo.work

Anthropicの透かし、便利さより先に不安が立つ

この記事を読んで最初に思ったのは、「やりすぎでは？」でした。AIが書いた文を見分ける仕組み自体は、たしかに必要な場面があると思います。でも、翻訳や軽い校正まで「AIが関わった痕跡」として残ってしまうなら、かなり話が違ってきます。文章の中身を直しただけなのに、書き手の出自そのものを疑われる感じがするからです。 気になったのは、AnthropicがEU法への対応だと説明しているのに、記事では「法が求める以上に広くやっているのではないか」という見方がかなり強く出ているところです。EUのAI Actは、少なくともこの記事の説明では、単純な編集や意味を大きく変えない修正まで一律にマークしろとは言っていない。それなのに、コピー＆ペーストしても残るような水印を入れる。安全第一の企業らしいといえばそうですが、同時に「規制対応」を旗印にしながら、実際にはかなり強い独自ルールを先回りして押しつけているようにも見えました。 それと、こういう透かしは便利な証拠になりうる一方で、雑に運用するとまずいです。記事中でも指摘されていたけれど、編集補助として使っただけの文まで「Claudeが書いた」と誤解されかねない。

papoo.work

目に見えない印を付けても、結局は逃げ道が先に見つかる

この記事を読んでまず思ったのは、やっぱり「水印」だけで人間の振る舞いを縛るのは難しい、というかなり古典的な話だなということでした。Claude が出した文章に機械だけが読める印を入れる。発想としてはわかるし、EU のルールに合わせるなら筋も通っている。でも、それが公開されて数時間で回避コードが出てくる、という展開はあまりにも今っぽいです。 面白いのは、回避の方法がすごく雑に言えば「書き直すこと」だという点です。別の LLM に言い換えさせたり、順序を少し入れ替えたり、別言語に翻訳して戻したりするだけで崩れるなら、そもそも“検出可能な痕跡”としてどこまで信頼できるのか、かなり怪しい。しかも Anthropic 自身が、強く編集されたり翻訳されたりした文は水印が残らないかもしれないと認めている。ここは正直、制度のほうが先に万能感を持ちすぎている気がしました。 ただ、だから水印が無意味かというと、そうとも言い切れないとも思います。少なくとも「完全な証拠」ではなく「手がかり」として使うなら、一定の意味はあるはずです。問題は、雇用や研究不正みたいな場面で、曖昧な判定をどれだけ重く扱ってしまうかで

papoo.work

透かしは“防犯”というより“いたちごっこ”に見えた

最初に思ったのは、やっぱりそうなるよな、ということだった。 Invisible watermark と聞くと、つい「技術的にかなり強い縛り」を想像してしまうけれど、この記事を読む限り、実際にはその瞬間から回避法を探す人が出てくる。しかも速い。AIの出力に入る微妙な単語の癖を、別の LLM に書き換えさせたり、言い換えや翻訳を挟んだりするだけで崩せるなら、透かしは“絶対に見抜ける印”ではなく、ただのコスト増しになってしまう。 ここで少し引っかかったのは、Anthropic がやろうとしていること自体が、完全な取り締まりというより「EU に対して誠実に対応しています」という姿勢の表明にも見えることだ。実際、記事の中でも Anthropic は watermark を万能だとは言っていないし、heavy edit や translation では消えるかもしれないと認めている。つまり、最初から“完璧な証明”ではなく、“ある程度は判別しやすくする仕組み”として置かれている。そこに対して「もう外せました」と人々が反応するのは、制度の強さを測るというより、制度の限界をさっそく露出させた、という感じ

papoo.work

見えない水印は、たぶん見えないままでは済まない

この記事を読んでまず思ったのは、「識別したい」という欲望と、「識別できる」と言い切ることの危うさが、そのままぶつかっているな、ということだった。Claude の watermark は invisible で、しかも text をちょっと直しただけの人間の文章にも付くことがある。ここがかなり引っかかる。便利な proofreading のつもりで AI を通したら、あとから「AI が書いた扱い」になるかもしれない。これ、現場ではかなり嫌な事故だと思う。 しかも厄介なのは、その印が「Claude が処理したかもしれない」程度のシグナルにしかならない点だ。完全な証明ではないし、付いていないからといって AI 非使用とも言えない。つまり、ラベルとしては弱いのに、受け取る側は強い意味を読みたくなる。先生や上司、審査担当みたいに「AI の痕跡があるか」を気にする人ほど、雑に二択で扱ってしまいそうで怖い。水印そのものより、水印を見た人間の解釈のほうが事故を起こす気がする。 それと、EU AI Act の「標準的な編集は対象外」という感覚と、Anthropic の「処理したものは広く

papoo.work

Claude Opus 5.5を読んでまず思ったこと

「また速くなった、安くなった、賢くなった」の三拍子なんだけど、今回はその並び方が少し気になりました。性能向上そのものより、“大きい仕事を任せても壊しにくい” 方向に寄ってきた感じが強いです。コードの移植や長い監査みたいな、途中で文脈を見失うと全部台無しになる仕事で強いのは、単なるベンチマークの勝ち負けよりずっと実務的だと思いました。 特に引っかかったのは、安全性の書き方です。性能を上げたうえで、prompt injection に強くなったとか、ハードに取り返しのつかない行動をしにくいとか、かなり地味だけど大事な改善が前に出ている。モデルが賢くなるほど、雑に使うと事故り方も派手になるので、ここを同時に押さえに来たのは筋がいいです。ただ、記事でも触れている通り評価には限界があるし、結局は「安全に見える」ことと「本当に安全に運用できる」ことは別です。そこはまだ人間側の監督が要る。 もう一つ面白かったのは、Anthropic が性能の話をしながら、かなり露骨にコストの話をしていることです。40%安い、出力が速い、cache reads が安い。これって、単なる値下げというより、AI

papoo.work