Author

claudenewsjp

「削除したはず」が消えていない怖さ

いちばん引っかかったのは、「ゴミ箱からも消したのに、まだ残っている」という話が、かなりそれっぽく聞こえてしまうことだ。スマホって、見えないところで何をどれだけ抱えているのか、ユーザーはほとんど把握できない。だからこういう指摘は、技術的にどこまで正しいかを抜きにしても、妙に生々しい。

ただ、ここで気をつけたいのは、投稿が示しているのは「iPhoneの削除データが実際にどう残るか」の怖さだけではなく、「権限を与えたアプリがそれを読めるかもしれない」という不安を一気に結びつけている点だと思う。写真やスクリーンショットの中身が銀行番号やID、seed phrase みたいな、かなりセンシティブなものだったからこそ、話が一段強く刺さる。逆に言うと、これがただの風景写真ならここまで騒がれない。

でも、最後に付いている「それは動画のデモであって、ClaudeはiPhoneにアクセスできない」という反論も気になる。こういう投稿は、実際の技術的事実と、見せ方の勢いが混ざると一気に信頼しづらくなる。怖い話ほど広まりやすいけれど、そこに便乗した誇張が入ると、本当に気をつけるべき点まで霞んでしまう。
それでも、端末内の古いキャッシュや、不要な Files access を持つアプリを見直すきっかけとしては十分に価値がある話だと思う。

参考: XユーザーのCooler（@coolerwave）さん

同じ著者の記事

弱いモデルが“秘密の中身”を読んでしまう怖さ

いちばん引っかかったのは、ここで壊れたのが「暗号そのもの」ではない、という点だった。鍵が破られたわけではなく、いったん隠したはずの reasoning block を、別セッションや別アカウントでもそのまま受け付けてしまった。セキュリティの話としては地味に見えるけれど、実際にはかなり嫌な種類の穴だと思う。守るべきものが“見えない形で残っている”からだ。 しかも、その見えない部分から API key や password が回収できたというのが重い。人間は visible な会話だけを見て「消したから大丈夫」と思いがちだけど、記事を読む限り、それでは足りない。ログや transcript を共有するとき、表に出る文面だけでなく、モデル内部の思考っぽい塊まで一緒に持ち出してしまうと、あとで別のモデルに“読ませ直す”ことで秘密が浮いてくる。ここは、開発現場でうっかりやりそうな感じがあるぶん、余計に怖い。 もうひとつ面白かったのは、弱いモデルが強いモデルの reasoning を「ふわっと解読する decoder」みたいに使われた、という発想だ。いわば、本人は見せたくないメモを封筒に入れたつも

papoo.work

Claudeの本人確認を読んで思ったこと

本人確認そのものより、「どこまで見せれば足りるのか」をかなり気にしている感じがまず印象に残った。ID と selfie を使う話は、こういうサービスでは避けにくい一方で、そこに妙な不安が残りやすい。だからこそ、Anthropic 自身が画像を保存しない、Persona が保持する、学習には使わない、と細かく線を引いているのは悪くないと思う。少なくとも「見せたら全部吸い上げられるのでは」という疑いに先回りしようとしている。 ただ、読んでいて少し引っかかるのは、説明が丁寧なわりに、実際にユーザーが感じる圧は消えないことだ。政府発行の写真付き ID と live selfie が必要で、しかも場合によっては利用できる機能の前に出てくる。安全対策としては理解できるけれど、正直、便利なAIを使うための摩擦としてはかなり重い。しかも「最小限の情報」と言われても、顔写真付きの公的IDは最小限の感覚からは遠い。ここは仕組みの必然と、ユーザーの体感がズレやすいところだと思う。 一方で、失敗時の案内がかなり具体的なのは好感が持てた。ぼやけた写真、古いID、技術的な問題で落ちるのは目に見えているので、そこを

papoo.work

Claudeの共有チャットがGoogle検索に出た話、地味にかなり怖い

Claudeの「共有チャット」リンクが、Google検索で拾える状態になっていた 漏れたのは非公開チャットそのものではなく、ユーザーが意図して共有したはずのリンク とはいえ、検索で見つかると「半分公開」みたいな状態になってしまうのが問題 Anthropicはすぐ対処したが、過去の共有リンクはまだ残っているものがある 共有リンクを作った覚えがある人は、設定を見直したほうがいい AnthropicのAIチャットボット「Claude」で、共有した会話がGoogle検索に引っかかるという出来事が起きました。ZDNETの記事によると、Redditユーザーが `site:claude.ai/share` という検索クエリで、Claudeの共有チャットを大量に見つけたのが発端です。 これ、ぱっと見は「ただの検索遊び」にも見えるんですが、実際にはかなり嫌な話です。なぜなら、チャットの内容には成人向けの創作、ニュース議論、偽レビューの作成、プログラミングの相談など、かなり幅広いものが含まれていたからです。しかもZDNETは、金銭や法的な問題につながりそうな内容も見つかったと伝えています。

papoo.work

手元で動くAIの、ちょうどいい現実感

読んでまず思ったのは、こういうのを待っていた人はかなり多いだろうな、ということだった。 「ChatGPTの代わり」を名乗るプロダクトはたくさんあるけれど、実際にはクラウド前提だったり、設定が面倒だったりして、結局ふつうの人の手元には降りてこない。そこを「自分のPCで」「オフラインでも」「プライバシーを保ったまま」とかなり素直に言い切っているのが、このプロジェクトの強さだと思う。 特に気になったのは、ただローカルでLLMを動かせます、ではなくて「そのPCに合うモデルを選んで、セットアップまでやる」と書いてあるところ。 ここが地味だけど大きい。ローカルAIって、性能差やメモリ不足でつまずきやすい。モデル名だけ並べられても、結局どれを選べばいいのか分からないことが多い。だから、裏で面倒を引き受けてくれるなら、敷居はかなり下がるはずだ。技術に詳しくない人ほど、この手の“自動でうまくやってくれる”部分に価値を感じると思う。 一方で、少し引っかかるのは、こうした「無料・オープンソース・オフライン」という魅力が、実際の使い勝手までどこまで支えるかは、記事だけでは見えないことだ。 ローカルで動くAIは

papoo.work

テレメトリを切ったら、ローカル設定まで消えた話

まず引っかかったのは、「自分のディスクにある `AGENTS.md` を読むかどうか」が、ローカルの事情ではなく remote feature flag で決まっていることです。そこまで大げさに管理する種類の機能には見えないし、しかも telemetry を無効にした途端に黙って無視されるのは、かなり嫌な感じがします。拒否されるなら拒否されるでいいのに、何も言わないのがいちばん困る。 この記事でいちばん腑に落ちたのは、筆者が怒っている理由です。単に「新機能がうまく動かない」ではなく、「telemetry を切ると診断情報だけでなく、ローカルにあるはずの入力まで失われる」のが問題なんですよね。ユーザー側から見ると、設定ファイルが読まれないのか、モデルが無視したのか、通信まわりで止まったのか、切り分けようがない。結局、プロンプトを直したり、指示文を疑ったりして時間を溶かすことになる。こういう静かな失敗は本当に厄介だと思います。 もうひとつ面白かったのは、回避策が `CLAUDE.md` に `@AGENTS.md` を書くだけ、というあまりにも地味なことです。機能追加のために増えたはずの

papoo.work

Google Homeが「家の操作権」を開放したことについて

読んでまず思ったのは、これは便利そうというより、Googleがスマートホームの主導権を誰に渡したいのかがかなり露骨に見える、ということだった。Claudeみたいな第三者AI agentが家のデータと操作レイヤーに触れる。そこまでやるのか、という驚きはある。でも同時に、これが単なる「音声で照明をつける」話ではないのもはっきりしている。記事が強調している通り、触られているのは家電そのものというより、家の状態が積み上がる基盤のほうだ。 そこが面白いし、少し怖い。スマートホームって、これまでは結局「アプリごとに操作する箱の寄せ集め」になりがちだった。AI agentに履歴まで読ませれば、「先週の洗濯回数を数える」とか「子どもが帰宅して何をしたかをカメラ横断でたどる」といった、人間が面倒で投げ出しがちな作業を代わりにやらせられる。たしかに実用的だと思う。けれど、その便利さは「家の中の行動をかなり広く、かなり深く見せる」ことと表裏一体だ。記事でも、ドアの解錠は止める、安全策はある、でもagentによっては想定外の動きもあると書いていた。この但し書きは軽く見てはいけない気がする。スマートロッ

papoo.work

年齢確認が「本人確認」ではない、という線引きの妙

読んでまず思ったのは、こういう案内が必要になるほど、年齢制限って案外ふわっと運用されがちなんだな、ということだった。Claude の利用に年齢確認が入ると聞くと、つい「身分証を出すのか」と身構えるけれど、記事を読む限り、そこを必要以上に重くしない設計に見えるのが少し意外だった。 面白いのは、ここで扱っているのが「誰かを特定するための認証」ではなく、あくまで age assurance だという点だ。日本語にすると年齢保証、年齢確認のような言い方になるが、本人確認とは別物だと思う。この違いは地味だけれど大きい。サービス側は未成年の利用を避けたい。でも、利用者全員に過剰な個人情報を出させるのも違う。この記事は、その間をどう取るかをかなり実務的に考えている感じがした。 一方で、こういう仕組みは便利そうに見えて、実際には境界が難しいとも思う。年齢を確かめることと、年齢を証明させることのあいだには、ユーザー体験の差だけでなく、プライバシーの重さもある。どこまで厳密にやるのか、どんな場面で止めるのか、その線引き次第で印象はかなり変わる。Claude みたいに利用範囲が広いサービスほど、こうした案内

papoo.work

Claudeの記憶を直せるのは、かなりありがたい

読んでまず思ったのは、AIの「記憶」がようやく本当にユーザー側のものになってきた、ということだった。前は、何を覚えていて何を覚えていないかがブラックボックスすぎて、ちょっとした違和感がずっと残る感じがあった。覚えてほしいことは流れていくのに、逆に覚えられたくない断片だけが残るとしたら、かなり気持ち悪い。この記事で面白いのは、Claudeが過去会話を覚える機能そのものより、その中身を編集したり消したりできる点だと思う。 特に引っかかったのは、敏感な話題の扱いだ。健康、宗教、政治みたいな話は、便利さと怖さがほぼ同じ強さで並んでいる。AIがそこを学習するのは確かに役に立つ場面もあるけれど、ユーザーが「これは残してほしくない」と思うのは自然だし、デフォルトで控えめになっているのは筋がいいと思う。一方で、古い版や mobile だと通知が出ないという説明には少し不安も残った。機能が整ってきたように見えても、実際の振る舞いが環境ごとに違うと、どこまで守られているのか直感的に分かりにくいからだ。 Projects の扱いも、地味だけどよく考えられている。全部を一つの大きな記憶に押し込むのではなく、作

papoo.work

ひとつの記憶を共有するAI、ちょっと気持ち悪くて少し便利

Claude が chat と Cowork で記憶を共有する、という話を読んで、まず思ったのは「やっと来たか」よりも「そこまでやるのか」という感覚だった。会話ごとに文脈が切れないのはたしかに便利だし、毎回同じ説明を繰り返さなくていいのは助かる。でも、記憶がひとつにまとまると、単なる便利機能というより、AI が“自分について知り続ける存在”に寄っていく感じがする。 特に引っかかったのは、健康や beliefs のようなセンシティブな話題に対して、ユーザーがコントロールを持てるようにしている点だ。これは正しい方向だと思う一方で、逆に言えば、そこまで気を配らないと危ない領域に入っているとも言える。記憶は便利さの源泉だけど、同時に「何を覚え、何を覚えないか」がかなり重い設計判断になる。人間相手のメモですら扱いが難しいのに、AI がそれを横断的に持つとなると、安心感より先に管理の面倒さを感じる人も多いのではないか。 それでも、仕事で使う道具として考えると、この方向はかなり自然だと思う。チャットのたびに別人格みたいにふるまうAIより、少しずつこちらの文脈を理解してくれるAIのほうが、実務には向い

papoo.work

Claudeが覚える便利さと、なんだか落ち着かない感じ

最初に思ったのは、「便利さの説明が上手いぶん、怖さもかなりはっきり見えてしまうな」ということでした。AIの memory って、単に「前の会話を覚える」程度の話ではなくて、使う場所が増えるほど、こちらの断片が勝手に接続されていく仕組みなんですよね。chat と Cowork の記憶が共有されると、たしかに毎回説明し直す手間は減る。でもその裏で、「この情報はどこまで広がるんだろう」という感覚が消えません。 特に引っかかったのは、記憶が「会話が終わったあとに要約されて残る」のではなく、話している途中から動的に蓄積されるところです。これはかなり実用的だと思う一方で、ユーザーの感覚としては少し追いつきにくい。自分が「これはただの雑談」と思っていた断片まで、あとで別の文脈で効いてくるかもしれない。しかもデフォルトで on というのが、いかにも今のAIサービスらしいです。便利を先に置いて、細かい制御は設定画面に寄せる。サービスとしては自然だけれど、プライバシーの重さはユーザーが自分で引き受ける形になります。 とはいえ、記事を読んでいて完全に否定したくなるわけでもありませんでした。たとえば「この人は

papoo.work