まず思ったのは、これはかなり真っ当な欲求だな、ということだった。
AIの回答が便利になればなるほど、「その答えはどのモデルが出したのか」を後から確認したくなる場面は増える。社内で使うならなおさらで、モデルの切り替えや誤設定、契約違反みたいなものを見つけるのに役立つはずだ。だから、暗号学的な proof でモデルの出どころを示すという発想自体は、かなり筋がいいと思う。
ただ、記事の「costly catch」という一言がずっと引っかかる。
こういう仕組みは、きれいに動くことと実運用で回ることが別問題になりやすい。証明を付けるために計算量や通信量が増えるなら、AIの軽快さが削られるし、結局は「本番では高すぎるから使えない」という話になりかねない。セキュリティや真正性って、だいたい最後はここでつまずく。便利そうなのに、回した瞬間に高くつく。
もうひとつ面白いのは、これが「モデルの中身を見せずに」証明する方向だという点だった。
AIの透明性というと、つい重みを公開するとか説明可能性を上げるとかを想像しがちだけれど、現実にはそこまで開けたくないことのほうが多い。だから、ブラックボックスは保ったまま、外側だけを暗号で固める、という落としどころはかなり現代的だと思う。
ただ、そこまでして何を守りたいのかは、用途次第でもある。ユーザーが知りたいのは「本当にAnthropicのモデルか」なのか、それとも「この出力は信用していいか」なのか。前者は証明できても、後者はまだ別問題だろう。そこは少し冷静に見たい。
参考: Anthropic found a way to prove which AI model answered you — but there’s a costly catch
