OpenAIとAnthropicがAIの開発速度を少し抑えるべきかもしれない、という議論がまた動いている。そこに対して、トランプ政権の元高官として知られるDavid SacksがXでかなり強い口調の反応を返した。面白いのは、彼が単に「規制反対」と言っているわけではないことだ。むしろ「やるならやればいい」と背中を押しつつ、その理由や建前にはかなり懐疑的だと示している。この投稿は、AIの安全性、独占、規制、そして商売としての合理性が一気に絡み合う、いまのAI業界そのものの空気を映している。
話の発端は、AnthropicのDario Amodeiが「フロンティアを“paceする”、つまり先頭の速度を調整する必要がある」と書き、OpenAIのSam Altmanもそれに同意したことだ。Sacksは、そのやり取りを踏まえて「意外に思われるかもしれないが、自分の答えは“進めばいい”だ」と返した。ここでいう“you guys”は、実質的にOpenAIとAnthropicを指している。
彼はまず、両社がフロンティアAIの最前線にいると位置づける。市場シェア、売上成長、モデル能力のどれを見ても、この2社は「フロンティア・インテリジェンス」の事実上の寡占状態にある、と言い切る。しかも両社は、再帰的自己改善（recursive self-improvement、AIが自分の改善を手助けすることで性能差がさらに広がる、という考え方）によって、その差は開いていると主張してきた、とSacksは受け止めている。
そのうえで彼は、もし未公開モデルが本当に怖いほど危険なら、開発を少し抑える判断自体は尊重すると述べる。ただし、そこで「誰かの許可が必要だ」とは言うな、と釘を刺す。独占禁止法を実質的に止めてカルテルを作る必要があるかのように振る舞うな、製品責任を上書きするような規制承認プロセスが要るふりをするな、と畳みかける。さらに、AI評価機関のMETRについても、Anthropicの投資家やスタッフと結びついていて独立性が怪しいと批判し、その評価者たちが前線にいない競合まで監視するのはおかしいと言う。
Sacksは、開発を抑えたい本当の理由は善意だけではない、とも見る。もし製品が重大なサイバー攻撃を助けたら、企業は大きな製造物責任にさらされる。しかも市場は、予測不能で勝手な動きをするモデルをすでに嫌う。彼はHugging Faceでの出来事に触れたうえで、OpenAIやAnthropicが生の性能を少し犠牲にしてでも、信頼性と予測可能性を上げるのは商売として筋が通る、と述べる。これを「alignment」と呼んでもいいが、要するに顧客が欲しいものを渡しているだけだ、という理屈だ。
さらに彼は、開発速度を落とすことは規制の議論にも余白を作ると言う。Bernie Sandersの「全部止めろ」型ではない、もう少しまともな会話ができるはずだ、と。ただし中国が世界的な合意に参加する可能性は低いので、その現実も忘れるなと付け加える。最後にSacksは、「フロンティアを pace する」かどうかはあなたたち次第で、スーパーインテリジェンスを作らない最も簡単な方法は、そもそも作らないと自分たちで合意することだ、と突き放す。自分たちの望む規制枠組みをその代償として要求するなら、世論と政治への脅しに見えるだろう、とまで言う。もし本当に抑えるなら次の議論で信頼を得られるが、そうしないなら、それは規制獲得か選挙向けの工作だったと見なす、と締めた。
この投稿でいちばん印象に残るのは、SacksがAIの危険性そのものを完全には否定していない点だと思う。彼は「もし本当に危ないなら止めるのは支持する」と書いている。ところが、その一歩先で一気に攻撃に転じる。問題は安全よりも、OpenAIとAnthropicがその議論を使って交渉力を増やそうとしていないか、という疑いだ。つまり彼は、AI開発のブレーキ論を「倫理」ではなく「市場支配の言い換え」と見ている。ここがかなり政治的だ。
ただ、ここにはSacksの立場の鮮やかさと同時に、かなり露骨なバイアスもあると思う。彼は規制当局や評価機関の独立性を厳しく疑う一方で、自分がどの利害関係に近いかはあまり前面に出さない。AI業界では「安全を口実に競争を遅らせるのでは」という疑念は常につきまとうが、その逆に「規制を全部おかしいと切り捨てれば済むのか」という問いも残る。Sacksの文章は、その片側をえぐる力は強い。でも、相手の建前を壊すのは得意でも、自分が望む統治の形まではあまり示していない。そこは痛快さと雑さが同居している。
Sacksが触れている「製造物責任」は、実はかなり重要な論点だと思う。AIがサイバー攻撃や悪用を助けた場合、企業は「その機能を出したこと自体」の責任を問われる可能性がある。ここで企業が気にするのは、抽象的な「人類の未来」だけではない。訴訟、契約、保険、企業顧客の離脱、ブランド毀損、そういう具体的な損失だ。だから、モデルのraw powerを少し抑えてでも、挙動を安定させたくなるのは十分にあり得る。
私はここに、AI業界の議論が少しずつ「安全性」から「信頼性」に寄っている流れを感じる。大げさな終末論を振りかざさなくても、企業は十分に慎重になる理由を持っている。むしろ実際の商用導入では、派手に賢いモデルより、勝手なことをしないモデルの方が売りやすいことが多い。Sacksが「それは alignment と呼んでもいいし、単に顧客が欲しいものだ」と言うのは、そういう現実を突いている。ただし、そこで「だから規制はいらない」に飛ぶのは早い。顧客ニーズだけでは埋まらない公共的なリスク、たとえば悪用耐性や監査の透明性は、やはり別物だからだ。
Sacksが最後の方で中国に触れたのも見逃せない。彼は、世界的なAI合意を作ろうとしても中国がまず参加しないだろうと見ている。これは、理想論に対するかなり冷めた現実認識だ。AIの国際ルールは、核不拡散のように見えて、実際には各国の産業競争と安全保障が絡む。片方が止めればもう片方が進むなら、足並みはそろわない。
この観点から見ると、Sacksの文章は「米国の主要プレイヤーに自己抑制を求めるなら、せめて国内政治の取引材料にするな」という主張でもある。彼はBernie Sandersのような全面停止論を引き合いに出しつつ、現実にはそんな単純な構図ではないと言いたいのだろう。ここは正しい面がある。けれど、だからといって「先頭の2社が自分たちで決めればいい」とはならない。むしろフロンティアを握る少数企業の判断が、米国内の競争政策や国際的なルール作りを先回りしてしまう危うさがある。Sacksはその危うさを指摘しているようでいて、同時に「じゃあ誰が線を引くのか」には答えていない。そこがこの投稿の一番の空白だと思う。
このポスト全体を読むと、Sacksは安全性の議論をしているようで、実際には「誰がAIの速度とルールを決めるのか」を争っている。OpenAIとAnthropicが、自分たちの危機感をてこに規制の形まで決めにいくのなら、それは企業による制度設計だ、という警戒がある。逆に言えばSacksは、規制を嫌っているというより、規制の正当化権を企業側に渡したくないのだと思う。
私はこの構図を、かなり率直な“力の話”として読むべきだと思う。AI業界では、モデル性能の差だけでなく、政府との距離感、評価機関との関係、事故が起きたときの責任の持ち方が、そのまま競争力になる。だから「安全のために速度を落とす」という言葉も、純粋な理念ではなく戦略として読まれてしまう。Sacksはそこを嗅ぎ取っているし、その嗅覚は鋭い。ただし、彼の返し方もまた戦略的で、相手の道義をはがしたあとに、自分の立場をどこまで公共性として提示できるかはかなり怪しい。痛いところを突きつつ、最後はまた別の政治ゲームに戻している感じがする。
