#裁判

ブラジルの労働裁判所で、提出書類の中にAI向けの隠し命令を仕込んだとして、2人の弁護士が制裁を受けました。人間が通常の表示では読めないように白文字を白背景に置き、裁判所や相手方のAIレビューを誘導しようとした、というのが記事の中心です。単なるいたずらではなく、司法の場でAIをだます行為が正式に問題視された点が大きい。しかも、裁判所側のAIがそれを検知して止めたとされ、AI時代の文書提出の弱点がかなり露骨に見えた事例になっています。 記事が伝えているのは、ブラジルで起きたかなり奇妙だが、いまのAI利用環境では現実味のある出来事です。舞台はブラジル・パラー州パラウアペバスにある第3労働裁判所で、雇用に関する訴えが提出されました。そこで裁判官が、全国的にブラジル司法評議会が使っている生成AIツール「Galileu」を通じて申立書を確認していたところ、怪しい文言が見つかったといいます。 その文言は、白い文字を白い背景に載せることで、普通に読んだだけでは見えないようにされていました。裁判所のAIが異常を検知し、フォント色を変えて確認したところ、隠されていた指示が姿を現します。内容はかなり露骨で、

スタンフォード大学の教授たちの本が、AnthropicのAI「Claude」の学習に無断で使われていた――そんな裁判の話が、大学の学生新聞という形で報じられた。単なる著作権トラブルではなく、AI企業が学習データをどう集めるべきか、そもそも「学習」はどこまで許されるのかを突きつける内容だ。しかも争点は、過去の違法な取得と、正規に買った本を使うことを法律上どう分けるかにも及んでいる。AIの進化を支える材料の多くが本や記事だと考えると、これは業界全体の足元を揺らす話でもある。 記事によると、米AI企業Anthropicは、スタンフォード大学の10人超の教授の著作を違法に収集し、Claudeの学習に使っていたと連邦判事が判断した。報道では、少なくとも教授 Tobias Wolff、Abraham Verghese、Chang-Rae Lee、Daniel Mason、Hayagreeva Rao、Myra Strober の本が、許可なく使われていたとされる。問題になったのは、いわゆる“shadow libraries”と呼ばれる違法配布サイトで、LibGenやPiLiMiのような場所から本を

無料のDNSサービスとして知られるQuad9が、フランスではサービスを続けられないと発表した。きっかけは、同国の裁判所が下した不利な判断だ。DNSは、ウェブサイト名を通信先の番号に変換する、インターネットの入口に近い仕組みである。そこに「特定の名前の解決を止めろ」と命じられたことで、Quad9は自分たちのサービスの成り立ちそのものが揺さぶられたと主張している。 この話は、単なる一企業の法廷闘争ではない。DNS事業者にどこまで検閲の役割を背負わせるのか、そして国境ごとの法律をインターネットの共通基盤にどう持ち込むのか、という問題に触れている。無料で使える安全対策が一つ減る、という話以上に重い。 Quad9のブログによると、フランスの裁判所は、著作権侵害に関係するとbeINが主張する複数のドメイン名について、フランス国内の利用者向けにはDNS解決を止めるよう求めた。Quad9側は、そのドメインやサイト運営者と自分たちは無関係だと説明している。裁判所はその主張を退け、従わなければ罰金が発生する仕組みまで認めたという。 当初の金銭的制裁は€580,000だったが、最終的には€1,000/日まで

最初に思ったのは、AI企業が「安全のために付けた制限」が、そのまま政府との契約上の火種になるのはかなり皮肉だな、ということだった。ふつう制限はリスクを下げるためのものなのに、ここではその制限が「政府側の使い方を縛る」と見なされて、逆に排除の理由になっている。安全設計と調達契約って、同じ方向を向いているようで全然そうでもない。 この記事でいちばん引っかかったのは、裁判所の判断が「この会社の思想や発言が問題なのではなく、契約条件を受け入れなかったことが問題だ」という線をかなり強く引いているところだ。見た目には表現の自由とかAI規制への姿勢の話にも読めるのに、判決文ではそこを切り分けている。たしかに法的には筋が通るのかもしれないが、実際の現場ではそんなにきれいに分かれないはずで、企業側からするとかなり息苦しい構図ではないかと思う。 それでも、こういう揉め方が出てくるのは、AIがもはや「便利なソフト」ではなく、軍事や監視に直結しうる基盤として扱われ始めたからだろう。モデルが何を言えるかではなく、どの用途を拒否するかまで含めて、調達の対象になっている。AI企業にとっては技術の出来だけで勝てる時代

読んでまず思ったのは、「安全保障の話って、技術の優秀さとは別のところでこんなに簡単に線を引かれるんだな」ということだった。Anthropic の Claude が能力的にどうこう、というより、政府が「この会社とはこの条件では組めない」と判断した瞬間に、かなり大きな市場が閉じる。AI 企業がどれだけ急成長していても、軍や政府との関係では道徳や方針がそのまま商売の境界線になるのだと、かなり露骨に見えた。 特に引っかかったのは、裁判所がこの争いをかなり事務的に扱っていることだ。表向きは国家安全保障の話でも、判決文では「契約条件を飲まなかったから排除された」という整理になっている。つまり、Anthropic が「自律兵器や国内監視には使わせない」と言ったこと自体が争点というより、その拒否をめぐる契約交渉の問題として処理されている。ここは少し怖い。理念の衝突が、きれいに契約実務へ押し込められてしまう感じがあるからだ。 それでも、Anthropic 側の立場が単純に正義で、Pentagon 側が単純に悪いとも思わない。軍は軍で、使えるシステムを調達したいし、使わせない条件があるなら面倒だろう。AI

最初に思ったのは、これを「供給網の安全保障」の話として処理してしまうのか、という違和感だった。普通、供給網リスクと聞くと、どこかの業者が仕込んだバックドアとか、部品の改ざんとか、そういう方向を想像する。でもこの記事で争われているのは、Anthropicが自社のClaudeに入れた制限を外せ、という圧力に近い。そこを法廷が「国家側が使えない機能を拒むことも supply chain risk だ」と広めに読んだわけで、かなり雑に言えば「使わせたくないなら危険」とみなされた感じがある。 ここで引っかかるのは、AIモデルの安全策が、そのまま政治的な不都合として扱われうることだと思う。Anthropicはたぶん、無制限に使われるのを避けたかった。 lethal autonomous warfare や mass surveillance みたいな用途に線を引くのは、企業としてはむしろ筋が通っているように見える。一方で政府や軍から見ると、必要なときに動かないモデルは困る。どちらも極端な心配ではあるのだけれど、裁判所がそこを「国家安全保障の判断」として広く認めてしまうと、モデル側の安全設計はかなり