AIがAI研究を加速している、というかなり重い話
AIがAI研究そのものをどれくらい速めているのか。この記事は、Anthropic の内部で進んでいる変化を手がかりに、その問いへかなり踏み込んでいます。単に「便利になった」という話ではなく、研究の進み方が実際に倍速になっているのではないか、しかもその加速がさらに加速を呼ぶ段階に入っているのではないか、という見立てです。元記事の著者はこれを、AIリスクについてここ数年で最も大きい更新だと受け止めています。 元記事が扱っているのは、METR が行った Anthropic の AI R&D 加速に関する公開レポートです。著者の Ajeya Cotra は、このプロジェクトには関わっておらず、非公開版の報告書も見ていないと明記しています。そのうえで、Anthropic が自社の Responsible Scaling Policy（RSP）で定めた「AI によって進歩が劇的に加速した」とみなす基準に、もう到達しているように見えると述べています。Anthropic は最新版の RSP で、その条件を「AI が AI R&D に大きく貢献し始める前の、これまでの最も速かった持続的な進歩率の2倍で、
papoo.work