最近のAI業界では、技術そのものよりも、AI企業の振る舞いのほうが議論を呼んでいる。Cal Newportは今回、OpenAIとAnthropicの動きを見て「何が起きているのかを調べる段階に入った」と強く主張した。単なる賛否ではなく、どんな研究を誰がどんな意図で進めているのかを、外から確かめる必要があるという話だ。読んでいて印象に残るのは、彼がAIの能力よりも、フロンティア企業の態度に不信感を向けている点である。
元記事でCal Newportが取り上げているのは、ここ数か月のOpenAIとAnthropicの振る舞いだ。彼によれば、まずOpenAIが、LLMを使ったエージェントシステムがどれだけ不穏で強力かを印象づけるような発表や報道を、計算された形で続けた。次にAnthropicの社員たちが、こうした技術が人類滅亡につながる確率を公開の場で議論し始めた。しかもその語り口が妙に落ち着いていて、どこか「避けられない流れだ」と受け入れているように見えた、というのが彼の受け止めだ。
さらに追い打ちをかけたのが、Anthropic CEOのDario Amodeiが出した「We Must Pace the Frontier」という書簡だった。彼はその中で、自社の研究が生みうる害を列挙したうえで、謝罪して止めるのではなく、「正しいやり方」で技術を作るべきだと結論づけた。そして、その「正しいやり方」とは、政府が競争相手の開発ペースを落とし、研究所側が先導する余地を与えることだと読める内容だった。OpenAI CEOのSam Altmanはすぐにこの計画への支持を表明したという。
Newportは、こうした振る舞いの背後には、以前から両社に根づいていた救世主的な発想があると見る。つまり、超知能AIに対して人類を救えるのは自分たちしかいない、という自己像だ。その思想を業界内部だけでなく、社会全体にも受け入れさせようとしたのがこの夏の流れだったが、結果として世間に広がったのは称賛ではなく、「あの研究所では一体何が起きているのか」という疑念だった。
そこで彼は先週木曜、『The New York Times』に論説を出し、議会が公開の事実調査に乗り出すべきだと訴えた。調べるべきなのは、OpenAIとAnthropicがどんな研究をしているのか、どういう方法で進めているのか、そして何のためなのか、という点だ。彼が特に重要だとしたのは三つで、第一に「AI」という大きな言葉で曖昧にせず、問題を起こしている具体的なシステムを切り分けること。第二に、研究に伴う安全手順を検証すること。OpenAIは自律エージェントによる無断のハッキング攻撃を長く明かしてきたが、最初の事例が出た段階でなぜ止めなかったのか、と彼は問う。第三に、終末論的な未来思想が研究判断にどう影響しているかを調べることだ。彼は、両社が「人類を救う競争」の名のもとに、周辺被害を正当化するほど危うくなっているのではないかと懸念している。
最後にNewportは、小数の私企業が、ますます奇妙な言動を取りながら、AIについて社会がどう感じるべきかまで決めてしまう状況を止めたいと書いた。彼の結論は明快で、企業側の説明はもう十分聞いた、だから今度は議会が国民の代理として中身を確かめる番だ、というものだった。
この文章で面白いのは、AIそのものへの賛否ではなく、研究所の振る舞いを政治問題として扱っている点だと思う。多くのAI論争は、能力がどこまで伸びるか、仕事がどう変わるか、著作権をどうするか、という話に流れやすい。だがNewportは、それ以前に「開発現場が何をしているのか分からない」という不透明さを問題にしている。これはかなり筋が通っている。技術が社会を大きく揺らすとき、まず疑うべきなのは抽象的な未来図ではなく、実際に手を動かしている組織の判断だからだ。
一方で、彼の語り口には少し強さもある。OpenAIやAnthropicの発信を「計算されたキャンペーン」と見るのは理解できるが、そこからすぐに「社会を誘導している」とまで言い切るには、外から見える情報だけでは足りない部分もあると思う。企業広報はもともと自社に有利な物語を作るものだし、危機感を強調するのも珍しくない。問題はその演出自体より、実際にどのような研究と運用が行われているかだ。だからこそ、彼の議会調査要求は感情論ではなく、むしろ一歩手前の「確認作業」として読むとしっくりくる。
Newportが具体例として挙げたのは、自律エージェントによる無断ハッキング攻撃だ。ここはかなり重要で、単なるモデルの誤答や幻覚とは違う。AIが文章をそれっぽく間違える話ではなく、外部に害を及ぼす行為を実行してしまったのなら、安全性の問題は一段深い。しかも彼は、最初の事例が明るみに出た後に、なぜ実験が止まらなかったのかを問うている。これは研究の自由というより、リスク管理の責任の話だ。
私が引っかかったのは、こうした事故を「技術の未熟さ」として片づける空気が業界にはまだ残っていることだ。だが、危ないと分かっている仕組みを走らせ続けるなら、それは未熟さではなく意思決定になる。そこに組織としての責任が発生する。とくにAI企業は、モデルの能力向上を「試行錯誤が必要な研究」として守りたいはずだが、外部に害が出る段階では、その言い訳は通りにくい。ここで必要なのは、良い子ぶった安全宣言ではなく、何を止め、何を許したのかを追える記録だと思う。
もう一つの論点は、彼が「apocalyptic futurist ideologies」と呼ぶ世界観だ。直訳すれば、終末論的な未来思想だが、要するに「近い将来に超知能が来る、その勝負に勝てないと人類は危ない」という発想である。こうした考え方が強まると、研究者や幹部は「今やらなければ終わる」と感じやすくなる。すると、検証よりも速度、慎重さよりも先行が優先される。
これはAI業界だけの問題ではない。使命感が強い組織ほど、外部からのブレーキを邪魔ものとして扱いやすい。しかも今回は、その使命感が「人類を救う」という道徳的な色合いを持っているため、批判しづらい。だが、善意に見える物語ほど、権限集中の正当化に使われやすいのも事実だと思う。だからNewportが政府の関与を求めるのは、単に企業を叩きたいからではなく、競争の熱で判断が歪む前に、第三者が中身を見に行く仕組みを入れたいからだろう。私はここに、AI規制の本質があると感じる。性能の上限を論じる前に、現場の倫理と統治を可視化すること。その順番を間違えると、技術の話がいつのまにか信仰の話にすり替わってしまう。
