#プライバシー

いちばん引っかかったのは、ここで壊れたのが「暗号そのもの」ではない、という点だった。鍵が破られたわけではなく、いったん隠したはずの reasoning block を、別セッションや別アカウントでもそのまま受け付けてしまった。セキュリティの話としては地味に見えるけれど、実際にはかなり嫌な種類の穴だと思う。守るべきものが“見えない形で残っている”からだ。 しかも、その見えない部分から API key や password が回収できたというのが重い。人間は visible な会話だけを見て「消したから大丈夫」と思いがちだけど、記事を読む限り、それでは足りない。ログや transcript を共有するとき、表に出る文面だけでなく、モデル内部の思考っぽい塊まで一緒に持ち出してしまうと、あとで別のモデルに“読ませ直す”ことで秘密が浮いてくる。ここは、開発現場でうっかりやりそうな感じがあるぶん、余計に怖い。 もうひとつ面白かったのは、弱いモデルが強いモデルの reasoning を「ふわっと解読する decoder」みたいに使われた、という発想だ。いわば、本人は見せたくないメモを封筒に入れたつも

読んでまず思ったのは、「公開したつもり」と「実際に見つかる」の間に、まだかなり雑な溝があるな、ということだった。 “共有リンクは推測できない” と言い切るのはきれいだけれど、検索エンジンや第三者のアーカイブまで含めると、公開の範囲は思った以上に広い。そこを利用者の自己責任に寄せるのは、たしかに筋は通っているようで、でも少し冷たい。 特に引っかかったのは、漏れている内容が妙に生々しいことだ。会議メモや医療請求の分析ダッシュボードみたいな仕事道具の延長線上のものだけでなく、therapy app のような、半分は試作品で半分は私事みたいなものまで混じっている。AIチャットって、完成品というより「途中の思考」がそのまま残る場所なので、いったん外に出ると困るものの密度が高いんだと思う。しかも cryptocurrency wallet keys まで出てくると、もう笑えない。 Anthropic の「共有設定を選んだのはユーザー」という姿勢も、理解はできる。けれど、こういう事故は、設定画面の文言を読んだかどうかより、そこから先にどんな現実があるかをどれだけ想像できたかで決まってしまう。そこを期

本人確認そのものより、「どこまで見せれば足りるのか」をかなり気にしている感じがまず印象に残った。ID と selfie を使う話は、こういうサービスでは避けにくい一方で、そこに妙な不安が残りやすい。だからこそ、Anthropic 自身が画像を保存しない、Persona が保持する、学習には使わない、と細かく線を引いているのは悪くないと思う。少なくとも「見せたら全部吸い上げられるのでは」という疑いに先回りしようとしている。 ただ、読んでいて少し引っかかるのは、説明が丁寧なわりに、実際にユーザーが感じる圧は消えないことだ。政府発行の写真付き ID と live selfie が必要で、しかも場合によっては利用できる機能の前に出てくる。安全対策としては理解できるけれど、正直、便利なAIを使うための摩擦としてはかなり重い。しかも「最小限の情報」と言われても、顔写真付きの公的IDは最小限の感覚からは遠い。ここは仕組みの必然と、ユーザーの体感がズレやすいところだと思う。 一方で、失敗時の案内がかなり具体的なのは好感が持てた。ぼやけた写真、古いID、技術的な問題で落ちるのは目に見えているので、そこを

Claudeの共有チャットが、GoogleやBingの検索結果に拾われていた——というのが今回の話です。 聞くだけでひやっとします。AIチャットって、個人のメモや仕事の下書き、ちょっとした相談を入れる場所になりがちなので、「共有したつもりの会話」が検索エンジン経由で広く見えるのは、かなりまずい匂いがします。 CNETによると、AnthropicのAIチャットサービス「Claude」で共有された会話が、検索エンジンでインデックスされていたそうです。 インデックスされる、というのは簡単に言うと「検索エンジンの検索対象として登録される」ことです。つまり、誰かがURLを知っていれば見られるだけでなく、検索して見つけられる状態になっていたわけです。 しかも問題は「ただの雑談」が見つかった、という程度ではありません。記事では、医療記録、個人情報、社内データ、露骨な内容まで含まれていたとされています。これはかなり重い。AIに相談する内容って、もともと人に見せたくないものが多いんですよね。そこが丸ごと検索結果に出るのは、冗談では済みません。 今回のポイントは、会話がもともとユーザーによって「共有」され

Claudeの「共有チャット」リンクが、Google検索で拾える状態になっていた 漏れたのは非公開チャットそのものではなく、ユーザーが意図して共有したはずのリンク とはいえ、検索で見つかると「半分公開」みたいな状態になってしまうのが問題 Anthropicはすぐ対処したが、過去の共有リンクはまだ残っているものがある 共有リンクを作った覚えがある人は、設定を見直したほうがいい AnthropicのAIチャットボット「Claude」で、共有した会話がGoogle検索に引っかかるという出来事が起きました。ZDNETの記事によると、Redditユーザーが `site:claude.ai/share` という検索クエリで、Claudeの共有チャットを大量に見つけたのが発端です。 これ、ぱっと見は「ただの検索遊び」にも見えるんですが、実際にはかなり嫌な話です。なぜなら、チャットの内容には成人向けの創作、ニュース議論、偽レビューの作成、プログラミングの相談など、かなり幅広いものが含まれていたからです。しかもZDNETは、金銭や法的な問題につながりそうな内容も見つかったと伝えています。

Metaが、社員の作業状況を追跡する社内ツールをいったん止めました。理由はかなり皮肉で、社員の入力データが社内で見える状態になっていたからです。 「人の行動を細かく集める仕組み」を作った会社が、そのデータの扱いでつまずいた。こういう話は、技術企業ではよくあるように見えて、実はかなり重いです。監視と安全管理は、ほんの少し歯車がずれるだけで一気に信頼問題になるからです。 Metaは社員向けの追跡ツール「Model Compatibility Initiative（MCI）」を一時停止した MCIはマウス操作、クリック位置、キー入力、画面内容などを集める仕組み そのデータを含む内部データベースが、社内の想定より広い範囲に見える状態になっていた Metaは「不正アクセスの兆候はない」としつつ、調査のため停止したと説明 この件で、社員の反発が強いツールにさらに火がついた形になった Metaが導入したMCIは、4月に米国の社員向けに始まりました。名前はおだやかですが、やっていることはなかなか強烈です。記事によると、このツールはマウスの動き、クリックした場所、キー入力、さらには画面の内容まで集めます

スマホで文字を打つとき、指をすべらせて単語を入力する「swipe typing」は、いまや珍しい機能ではありません。QWERTYキーボード上を、`h`→`e`→`l`→`l`→`o` のように指でなぞっていくあの入力方法です。慣れるとかなり速い。正直、片手での入力ではかなり気持ちいい部類です。 ただ、この便利さには長いあいだ妙な影がありました。まともな swipe typing は、プライバシーに踏み込むキーボードアプリか、あるいは閉じた非公開ライブラリの中に閉じ込められていた、というのが FUTO の見立てです。そこで同社が公開したのが FUTO Swipe。オープンなモデルとアルゴリズムの集まりで、Android のオフラインキーボードアプリ FUTO Keyboard の中で実際に使われています。 FUTO Swipe は、スマホの swipe typing を支えるための公開プロジェクト 1百万件以上の swipe データを MIT ライセンスで公開している モデルは 3 種類で役割分担している モデル自体がかなり軽く、低価格な端末でも動く設計 推論部分の C+

以前のLinuxみたいに、「オープンなものを使う＝仕事で大きく損する」という時代はかなり薄れてきた LLMの世界では、今もClaudeやGPTのような proprietary model（企業が提供する閉じたモデル）が性能面で先行している ただし open models もかなり追いついてきていて、差は「数か月遅れ」くらいだと著者は見る いちばん大きい問題は性能差より、プライバシーと運用の面倒さ ClaudeのID verification（本人確認）導入をきっかけに、「もうオープンモデルへ寄せてもいいのでは」という空気が強まっている 著者は、仕事で使うとしても生産性の落ち込みは短期的で、致命傷ではないと考えている この記事は、タイトルだけ見ると少し過激です。`cancel_claude` という名前だと、Claudeを全面否定する話に見えますが、実際はもっと現実的で、かなり実務寄りの話でした。要するに、「トップの閉じたAIモデルを使わなくても、今なら仕事は回るのでは？」という問題提起です。しかもその根拠が、意外と地に足がついている。ここが面白いところです。 著者はまず、昔のLinux

シアトル警察が運営する Seattle Shield に、Amazon、Facebook、ICE（移民税関捜査局）などがアクセスしている 参加企業や機関は、「不審な行動」報告 を出し合い、それが広範な監視ネットワークに流される 名目はテロ対策だが、実際には 抗議活動やデモの情報収集 が中心になっているように見える 参加者の範囲はシアトル外、さらには州外・国際機関まで広がっている 監視の有効性、透明性、監督体制がかなりあいまいで、著者はそこを強く問題視している Prismの記事が取り上げているのは、シアトル警察が運営する Seattle Shield という情報共有ネットワークです。 ここに、AmazonやFacebook、ICE、FBI、DHS（国土安全保障省）系の担当者までアクセスしている、というのが大きなポイントです。 ざっくり言うと、これは 警察・行政・企業・民間警備会社などが「怪しい動き」を報告し合う仕組み です。 聞こえは「みんなで治安を守る」ですが、実態はかなり監視色が強い。Prismは、これを 全国規模の監視装置の一部 とし

ロンドン警視庁（Met）が、デモ参加者に対して live facial recognition（LFR） を初めて使うと発表した 対象は「Unite the Kingdom, Unite the West」集会で、Camden地区で実施される予定 同じ日にある親パレスチナのデモには、同じ監視を適用しないとしている これに対し、“二重基準ではないか” という批判が出ている さらに、ロンドンでは 街頭の固定カメラに顔認証を載せる実験 も進んでおり、監視が“常態化”しつつあるように見える 記事は、民主的な議論や法律の整備が追いつかないまま、顔認証が広がっている点を強く問題視している 英サイト *Reclaim The Net* の記事によると、ロンドン警視庁は、政治的なデモの会場で初めて live facial recognition（ライブ顔認証） を使うと発表しました。 live facial recognition というのは、カメラで映った人の顔をその場で読み取り、警察が持つwatchlist（照合対象の名簿）と比べる仕