PaPoo
cover

Claudeが暗号の弱点を見つけた話が、わりと本気で怖い

Anthropic が公開した今回の研究記事は、AI が「ソフトウェアのバグを見つける」段階をかなり飛び越えて、「暗号アルゴリズムそのものの弱点」を探り当てた、という話です。これ、技術者目線だとかなり熱いです。しかも面白いのは、どちらの成果も“実用上は今すぐ被害が出るものではない”のに、それでも研究としてはかなり大きい、というところです。

暗号は、ネットの安全の土台です。Webサイトが本物かどうかを確かめる仕組みも、通信内容を他人に読まれないようにする仕組みも、ぜんぶ暗号の上に乗っています。だからこそ、そこに弱点があると話は重い。メール、ネットバンキング、買い物、API通信。あらゆるものに波及します。

Anthropic の主張はシンプルです。Claude Mythos Preview を使ったら、
1つは post-quantum signature scheme の HAWK に対する新しい攻撃を見つけた。
もう1つは、AES の簡略版に対する攻撃をかなり強くした。

どちらも「今のインターネットを直ちに壊す」話ではありません。けれど、AI が暗号研究の現場で“人間の見落としを見つける存在”になりつつある、という点はかなり示唆的だと思います。

まず押さえたいポイント

「バグを探すAI」から「暗号を破るAI」へ、話が一段深くなった

少し前に Anthropic は、Claude Mythos Preview がソフトウェアの脆弱性をかなり自律的に見つけられると示していました。そのとき見つけたのは、主に「実装のミス」です。つまり、暗号アルゴリズム自体が壊れていたというより、プログラマーが使い方を間違えた結果として穴が空いていた。

でも今回の話はそこからさらに一歩進んでいます。Claude が見つけたのは、アルゴリズムの“数学そのもの”に関わる弱点です。ここが地味にすごい。暗号の世界では、実装ミスを見つけるだけでも相当難しいのに、理論面の弱点まで踏み込んでくるとなると、研究の質がかなり違ってきます。

個人的には、この変化はかなり大きいと思います。なぜなら、実装ミスはコードレビューやテストである程度は拾えますが、数学的な弱点は、そもそも見つけるのが人間でも難しいからです。そこに AI が入ってきたら、研究の速度も範囲も変わるはずです。

HAWK に対する攻撃は、かなり嫌な方向で効いている

最初の成果は、​HAWK という digital signature scheme に対する攻撃です。署名方式は、「このデータが本物で、改ざんされていない」と証明するための仕組みです。Webサイトの証明書や、ソフトウェアの配布物の検証などで使われます。

HAWK は、いわゆる post-quantum cryptography の候補です。量子コンピュータが将来十分強くなった場合、RSA や ECDSA のような今の暗号が危うくなるかもしれない。そのため、量子耐性のある新しい方式を標準化しよう、という流れがあります。HAWK はその候補の1つでした。

Anthropic によると、Claude Mythos Preview は HAWK に対して、既知の最良攻撃を改善しました。しかも面白いのは、60時間ほどの作業でそこまで到達したという点です。人間の専門家が何年もかけてレビューしてきた候補に対して、AI が短時間で新しい抜け道を見つけたわけです。

攻撃の核心は、​lattice に潜んでいた未利用の対称性、つまり nontrivial automorphism を見つけたことです。……と書くと急に難しく見えますが、雑に言えば「見た目は堅牢でも、実は構造上の“同じ形が繰り返される性質”を使って、探索を少し賢くできた」という理解でよいと思います。完全に崩壊するわけではない。でも、総当たりに近い探索を少しでも短縮できれば、鍵の安全性は目に見えて落ちます。

Anthropic はこの結果について、HAWK の effective keysize が実質的に半分になったと説明しています。たとえば、小さいサイズの HAWK-256 では、当初は攻撃コストが 2^64 程度と考えられていたのに、Claude の攻撃では 2^38 まで下がったとされています。これはかなり大きい差です。指数の世界では、数字の見た目より差がずっと効く。2^64 と 2^38 は、体感では別世界です。

ただし重要なのは、これでもまだ現実的に即破壊できるわけではないことです。攻撃は依然として指数時間で、しかも HAWK 以外にそのまま広がるものでもない。ここを誇張すると話がおかしくなります。研究としては強い。でも、明日からネットが壊れる、という類ではありません。

AES の話は、研究者っぽい地道さがあって好きだ

2つ目の成果は、​AES の簡略版に対する攻撃です。AES は、たぶん一般の人には名前だけ有名な暗号の代表格でしょう。2001年に NIST に採用されて以来、あらゆるところで使われてきた、まさに「暗号界の大黒柱」です。

今回 Claude が攻撃したのは、AES-128 のフル版ではなく、​7ラウンド版という簡略化されたものです。AES-128 は 10 ラウンドで暗号化しますが、研究では“わざと弱くした版”を調べることがよくあります。理由は単純で、フル版そのものは強すぎて解析が進みにくいからです。弱い版を調べることで、攻撃手法の手がかりを得たり、どこまで耐えられるかの境界を探ったりします。

このあたりは、暗号研究の地味だけど重要な部分だと思います。現実の製品をすぐ壊すためではなく、「どこまでなら壊せるのか」を詰める作業です。正直、一般のニュースにはなりにくい。でも、こういう地道な攻防が暗号の強度を支えています。

image_0002.svg

Anthropic の説明では、既存研究は「chosen plaintext threat model」、つまり攻撃者が任意の平文を暗号化させ、その結果を見られる前提で考えています。かなり強い前提ですが、暗号理論ではよく使われます。

Claude Mythos Preview は、既存の攻撃をさらに改善し、​200〜800倍 速くしたとされています。しかも、その過程で攻撃者が必要とする推測の1つを消した、というのが面白いところです。こういう改善は、ぱっと見は小さくても、暗号解析では効きます。1個の推測を消すだけで、探索空間が大きく変わることがあるからです。

とはいえ、これも reduced-round AES に対する結果であって、​AES の本体を破ったわけではない。ここを混同すると危険です。研究としてはすごく面白いけれど、実際の通信や保存データの保護が今すぐ崩れる話ではありません。

60時間でここまで行くの、やっぱり変だと思う

この記事でいちばん印象に残るのは、攻撃そのものの数学よりも、​見つかるまでのスピードです。HAWK の攻撃は、1人の Anthropic 研究者と Claude が1週間ほどかけて開発し、AES の攻撃は、別の研究者が scaffold を組んで Claude がかなり自律的に発見したそうです。

そして、1件あたりの API コストはおよそ 10万ドル。安くはないですが、暗号研究の成果としては十分に現実的な投資に見えます。しかも人間が全部を手でやるのではなく、AI に下調べ、探索、検証の多くを任せている。ここは研究のやり方が変わりつつあると感じます。

Anthropic の記述では、複数の worker agents がサンドボックス内で協力し、Python や Sage を使い、文献も読みながら進めています。つまり、ただ文章を生成しているのではなく、​研究者の作業台そのものをAIが部分的に担っているわけです。

これ、冷静に考えるとかなり怖いです。暗号研究は本来、かなり頭の切れる人たちが、何年もかけて積み上げる世界です。そこに AI が入り込んで、未発見の構造を短時間で拾ってくる。もちろん万能ではないし、間違いもあるでしょう。でも、探索の“回転数”を上げる能力はすでにかなり高いのではないかと思います。

でも、だからといって「暗号が終わった」わけではない

ここは誇張しない方がいいところです。Anthropic 自身も強調しているように、今回の結果は 実運用のシステムには影響しません。HAWK はまだ候補段階で、AES の攻撃は簡略版に対するものです。

むしろ研究として重要なのは、こうした候補や簡略版を、公開の場でしっかり叩くことです。暗号は「信じる」ものではなく、「壊れないか何度も殴って確かめる」ものです。そういう意味では、今回の発見は失敗ではなく、設計の健全性を上げるための仕事です。

Anthropic は、こうした検証を今後も AI と一緒に進めていきたい考えのようです。さらに、ETH Zurich、Tel Aviv University、University of Haifa と協力して CryptanalysisBench というベンチマークも作ったとのこと。要するに、「LLM が暗号解析をどれだけできるか」を比較しやすくする土台ですね。

この動きはかなり重要だと思います。AI の能力は、印象論だけでは議論しにくい。だからこそ、ベンチマークで測れる形にしておくのは健全です。暗号の世界は特に、雰囲気で語ると危ないので。

たぶん本当に面白いのは、ここから先だ

個人的には、今回の研究の価値は「HAWK や AES を壊した」こと以上に、​AI が暗号研究の探索エンジンとして実用段階に入りつつあると示した点にあると思います。

暗号の世界では、新しい方式を作る人と、それを壊す人が常に綱引きしています。AI はこのうち、少なくとも“壊す側”の速度をかなり上げるかもしれません。であれば、設計する側も AI を使って、より速く、より広く検証する必要が出てくる。つまり、攻撃と防御の両方が AI 化していく。

それはちょっと面白くて、ちょっと不気味です。暗号はもともと人間同士の知恵比べでしたが、これからは知恵比べの相手に AI が常駐するかもしれない。そう考えると、今回の発表は単なる研究成果ではなく、暗号研究の風景そのものが変わる予告編みたいにも見えます。


参考: Discovering cryptographic weaknesses with Claude

同じ著者の記事