#aiインフラ

LLMの性能向上は、単にモデルを大きくするだけでは進みません。いまは、コードリポジトリを読み、ツールを呼び出し、コマンドを実行し、外部サービスとやり取りするような「agentic training」が重要になってきています。今回のarXiv論文は、その学習と評価を支える基盤を、かなり本気で作り込んだ話です。DeepSeekが公開した「DSec」は、そうした用途に向いた実運用のサンドボックス基盤で、単なる実験用の仕組みではなく、かなり大規模な現場を前提に設計されています。 論文が最初に言っているのは、LLMの大規模なagentic trainingやevaluationでは、モデルが安全な隔離環境の中でリポジトリを見たり、ツールを呼んだり、コマンドを実行したり、専用サービスと対話したりする必要がある、ということだ。問題は、こうした作業が毎回似た形にはならない点にある。あるときは軽いFnCallで足りるが、別のときはcontainerが必要で、さらに重い隔離が必要ならmicroVMやfull-VMが要る。しかも長い対話のあいだ状態を保たなければならず、画像データも巨大なコーパスから必要な分

AMDがAnthropicに最大50億ドルを投資する。 見返りとしてAnthropicは、AMDのAI向けGPU「Instinct MI450」を最大2GW分使う計画だ。 最初の1GWは2027年上半期に導入する予定。 これはAnthropicの計算資源確保の動きの一環で、すでにSpaceXやTeraWulf、Google、Broadcom、AmazonともAIインフラ契約を結んでいる。 AMDとAnthropicは、Claudeを使った複数年の技術協業も始める。 Anthropicをめぐる“AIインフラ争奪戦”が、またひとつ派手な展開を見せました。AMDがAnthropicに最大50億ドルを投資し、さらにAnthropicはAMDのAI GPUを大量導入する。要するに、「お金を出す側」と「計算資源を欲しがる側」が、かなり深く握手したわけです。 このニュース、ぱっと見は巨大企業同士の取引で終わりそうですが、実際にはAI業界の今をかなりよく表しています。いまの生成AIは、アイデアだけでは動きません。とにかく計算機が要る。しかも普通のサーバーではなく、AI専用のGPUが山のように必要です。

AI向けサーバーの冷却と聞くと、普通は「もっと冷やす」「もっと風を送る」という方向を想像します。ところがNVIDIAの最新記事が示しているのは、その逆でした。冷却液を45℃まで上げても、むしろ効率がよくなるという話です。しかもこれは単なる変わり種の実験ではなく、AIデータセンターの省エネと省水にかなり大きな意味を持つ、かなり本気の話です。 NVIDIAのRubin世代AIインフラは、100%液体冷却を実現した最初の構成 冷却液は最大45℃で運用でき、ホットタブより高温でも問題ない ファンを使わないので、騒音や空調の無駄が大きく減る うまく設計すれば、冷却水の消費をほぼゼロに近づけられる 伝統的な空冷より、ラック密度を上げやすく、設置面積も小さくしやすい AIの計算需要はまだ増え続けており、冷却の効率化は電力と水の両面で重要になっている この記事で面白いのは、まず発想の転換です。 一般には、機械は冷やしたほうがいい。だからデータセンターも冷房を強くして、ひんやりした空間にしておく。そう考えがちです。 でもNVIDIAは、**AIサー