AIがAI研究そのものをどれくらい速めているのか。この記事は、Anthropic の内部で進んでいる変化を手がかりに、その問いへかなり踏み込んでいます。単に「便利になった」という話ではなく、研究の進み方が実際に倍速になっているのではないか、しかもその加速がさらに加速を呼ぶ段階に入っているのではないか、という見立てです。元記事の著者はこれを、AIリスクについてここ数年で最も大きい更新だと受け止めています。
元記事が扱っているのは、METR が行った Anthropic の AI R&D 加速に関する公開レポートです。著者の Ajeya Cotra は、このプロジェクトには関わっておらず、非公開版の報告書も見ていないと明記しています。そのうえで、Anthropic が自社の Responsible Scaling Policy（RSP）で定めた「AI によって進歩が劇的に加速した」とみなす基準に、もう到達しているように見えると述べています。Anthropic は最新版の RSP で、その条件を「AI が AI R&D に大きく貢献し始める前の、これまでの最も速かった持続的な進歩率の2倍で、全体の能力進歩が進んでいる、またはそうなると予測できる」と説明しています。
著者によれば、METR 側の調査では、2025年10月から2026年10月にかけて、Anthropic の capabilities progress はその前の12か月よりおよそ2倍の速さで進んでいたとされています。使われた指標は Epoch Capabilities Index の内部版である AECI です。ただし、補足となる多くの証拠は黒塗りされており、著者はその黒塗り部分に「自分たちが最も参考にした証拠の大半」が含まれていたと紹介しています。公開された範囲では、加速の原因は最初こそ複数あったかもしれないが、今なお続く速さの大部分は AI による自動化だろう、とされています。
ここから著者は、影響の大きさをかなり強い言葉で論じます。AI のせいで能力進歩が全体として2倍速になっているなら、研究者の作業自体はそれ以上に速まっていなければ説明がつかない、と考えるからです。AI の能力進歩は compute multipliers と training compute の掛け算のようなものだとされ、もし全体を2倍速にするのがソフトウェア面の進歩なら、compute multipliers はおそらく2.5〜3倍ほど速く伸びている必要がある、という見積もりが出てきます。さらに、研究者の労働はその compute multipliers を見つけるための実験計算にも支えられているので、単純なモデルでは労働面の上積みはその二乗に近づき、全体の能力進歩を2倍にするには4〜9倍、今の状況を維持するには10倍前後の労働増強が必要かもしれない、と著者は見ています。Anthropic 社員の自己申告として、内部モデルの利用で約12倍の上積みを感じているという話にも触れています。
著者の懸念は、これが一回きりの改善ではなく、さらに自己増殖的に進むことです。AI が研究者を速めるなら、進歩が進むほど低く取りやすい果実が先に刈り取られ、次の改善はだんだん難しくなるはずですが、報告書の作成者たちはその阻害要因や急激な逓減は見つからなかったとしています。しかも、加速率そのものがすでに2倍を超え、さらに増えているような断片的証拠もあったとされます。著者は、これをそのまま滑らかに外挿すると、1年以内に極端な superintelligence に到達する、というかなり危うい結論に行き着くと述べます。もちろん現実には software efficiency に上限があるはずだが、その上限はまだ遠い、とも書いています。
最後に著者は、安全性への備えが全く足りないと主張します。旧い RSP では AI R&D-5 に達する前提として、国家レベルの攻撃者による model-weight theft を防げる程度の強いセキュリティが必要だったとし、そんな水準に業界は到底達していないと見るのです。OpenAI と Anthropic の両方が最近、素人集団による重大な侵入を受けたことにも触れています。さらに、重みの保護だけでなく、強力な監査ログ、常時監視、monitor collusion への対策、alignment training の妥当性を確かめる技術、進捗を止めるための統治基盤などが必要だろう、と列挙します。ただし、そうした判断の土台になった重要証拠の多くは非公開のままで、外部の科学者が検証できない点を著者は強く惜しんでいます。
この記事でまず引っかかるのは、主張の強さそのものより、測定の難しさです。著者は加速が始まった、しかもその原因の大半は AI だ、と読んでいますが、根拠の多くが黒塗りされている。ここはかなり大きい。能力進歩の速度を測ること自体が難しいうえに、どの要因がどれだけ寄与したかまで分解するのはもっと難しいからです。しかも Anthropic という当事者の内部事情で、外部には見えない仕事の進み方を推定している。つまり、結論は衝撃的でも、観測窓は狭い。私はここに、強い警告と同時に強い不確実性もあると思います。
とはいえ、だから無視していいわけではありません。むしろ逆で、もし本当に研究が2倍速、3倍速と上がっているなら、公開されるモデル性能だけを見ていても変化を見落とす可能性がある。ユーザーが日常的に触れる chatbot の賢さとは別に、研究開発の現場では試行回数、コード生成、実験設計、失敗の切り分けがすでに大幅に圧縮されているかもしれない。そこが見えないまま進むのが、一番怖いところです。
著者は、AI の効果を「研究者が10人に増えた」ような比喩で捉えるのでは不十分だと言っています。実際には、人が10倍の価値を出すというより、考える速さ、読む速さ、書く速さ、試す速さがまとめて加速する、いわば“時間が圧縮される”感覚に近いのだと。ここは非常に重要で、AI 導入の話をよくある業務効率化に落とし込むと本質を見失うと思います。
理由は単純で、研究のボトルネックは人数だけではないからです。優秀な人を集めても、実験計算資源、検証の仕組み、意思決定の速さ、失敗の記録方法が追いつかなければ、成果は伸び切らない。逆に AI がそれらを同時に削ると、単なる時短ではなく、研究の探索空間そのものが拡張される。どの仮説を試すか、どこで切り捨てるか、その分岐点が増えるからです。私はこの点で、AI は「作業を速くする道具」より「探索の密度を上げる装置」として見たほうが実態に近いと思います。
ただし、そこに喜ぶだけでは危うい。探索の密度が上がるほど、誤った方向にも早く突っ走れるからです。速度が価値になるのは、目的が安定していて、安全弁が機能している場合だけでしょう。
元記事の後半は、安全保障の話にかなり重心があります。model-weight theft を防ぐ水準の security、全方位の logging と monitoring、監視のすり抜けや collusion への対策、alignment training の有効性を確かめる仕組み。どれも、普段のプロダクト記事では脇役になりがちなものですが、ここでは本体です。なぜなら、研究のスピードが上がるほど、失敗の一回あたりの損害が大きくなるからです。
私が特に気になったのは、業界が「まだそこまでではない」と言っているうちに、基準のほうが先に上がってしまうことです。昨日まで必要なかった対策が、明日には最低条件になる。しかも AI が研究を速めるなら、その変化も AI によってさらに速く進む。そうなると、人間側のガバナンスは常に一歩遅れる。この記事は、まさにその遅れを問題にしています。これは単なる技術予測ではなく、統治の速度の問題でもあるのです。
私は、ここで必要なのは「もっと慎重に」という抽象論ではなく、何をもって危険水準に達したと判断するのか、事前に共有された基準だと思います。公開できる範囲での指標、監査可能な安全策、外部研究者が検証できる材料。そういう共通言語がないと、加速の議論は内部の確信だけで走ってしまう。著者が透明性の不足を強く残念がっていたのは、たぶんそこが一番の不安だからでしょう。
この文章を読んで残るのは、超知能が来るかどうかという単純な問いではありません。もっと手前に、すでに研究開発の現場で何が起きているのかを外部が把握しにくくなっている、という問題があります。加速が本物なら、モデル性能の発表を待っているだけでは遅い。しかも、加速の主因が AI そのものなら、改善のサイクルはますます内向きになり、外からは見えにくくなるはずです。
私はこの記事を、終末論としてではなく、観測不能性への警報として読むのが正しいと思います。技術が速くなること自体より、速くなる過程を社会が追えなくなることのほうが厄介です。もし研究の現場で「昨日の常識」が今日には通用しなくなるなら、政策、セキュリティ、監督の側も相当な速度で更新されないといけない。元記事はそのギャップを、かなり強いトーンで突きつけています。私はその危機感には納得しつつも、だからこそ、非公開の証拠だけで世界観を固めすぎるのは危険だとも感じます。見えないものを恐れるなら、なおさら見える形にする努力が要るからです。
