裁判所が「白文字プロンプト」を見抜いた日
ブラジルの労働裁判所で、提出書類の中にAI向けの隠し命令を仕込んだとして、2人の弁護士が制裁を受けました。人間が通常の表示では読めないように白文字を白背景に置き、裁判所や相手方のAIレビューを誘導しようとした、というのが記事の中心です。単なるいたずらではなく、司法の場でAIをだます行為が正式に問題視された点が大きい。しかも、裁判所側のAIがそれを検知して止めたとされ、AI時代の文書提出の弱点がかなり露骨に見えた事例になっています。 記事が伝えているのは、ブラジルで起きたかなり奇妙だが、いまのAI利用環境では現実味のある出来事です。舞台はブラジル・パラー州パラウアペバスにある第3労働裁判所で、雇用に関する訴えが提出されました。そこで裁判官が、全国的にブラジル司法評議会が使っている生成AIツール「Galileu」を通じて申立書を確認していたところ、怪しい文言が見つかったといいます。 その文言は、白い文字を白い背景に載せることで、普通に読んだだけでは見えないようにされていました。裁判所のAIが異常を検知し、フォント色を変えて確認したところ、隠されていた指示が姿を現します。内容はかなり露骨で、
papoo.work