#推論

OpenAIが、Broadcomと共同開発した初のカスタムチップを発表しました。名前は「Jalapeño」。ちょっと辛そうな名前ですが、中身はかなり本気です。これはOpenAI向けに特化した inference processor、つまりAIモデルを実際に動かすための処理装置です。 今回の話で面白いのは、OpenAIが「AIを作る会社」から、だんだん「AIを支えるインフラまで自分で作る会社」になりつつあることです。モデルを作るだけではなく、その下にあるチップやメモリ、ネットワークまで最適化する。かなり野心的だと思います。 OpenAIがBroadcomと共同で、初の自社向けカスタムチップ「Jalapeño」を発表 用途は inference、つまり学習済みAIをユーザーの命令に応じて動かす場面 OpenAIは、自社AIモデルもチップ開発に活用したという まだテスト段階だが、現行の最先端チップより performance-per-watt がかなり良いとされる Nvidiaへの依存を減らす狙いがある 生成AIの事業では、推論コストの削減がそのまま利益改善につながりやすい Jalapeño