#cpu

中国のスーパーコンピュータ「LineShine」が、最新のランキングで世界最速の座を奪い返しました。しかも、ただ速いだけではありません。今回の話でいちばん面白いのは、「最先端＝GPU大量投入」という今どきの流れに、あえて乗っていないことです。CPU中心で2 exaflops超えを達成した、かなり異色のマシンなのです。 中国の「LineShine」が、世界最速スーパーコンピュータの座を獲得した 実性能は 2.198 exaflops で、米国の「El Capitan」（1.809 exaflops）を上回った CPUだけ で sustained double-precision performance が2 exaflopsを超えた初のシステムとされる GPU依存ではなく、独自の304コアCPU と独自インターコネクトで構成されている 2026年のランキングでは、exascale級を超えるシステムが5台に増えた 中国は輸出規制の制約がある中で、別の設計思想で首位を取り戻した形になった スーパーコンピュータの性能は、ざっくり言うと「どれだけ大量の計算を一気にこなせる

2016年製のXeon、DDR3メモリ、GPUなしという“普通なら無理”な環境でLLMを動かした話 速さのカギはCPU性能よりもmemory bandwidth（メモリからデータを運ぶ速さ） speculative decoding で、重いモデルの前に軽いモデルを走らせて高速化している MoE（Mixture of Experts）モデルでは、どの expert をどう扱うかが性能に直結する mlock や run-time-repack みたいな地味な最適化が、古いマシンではかなり効く 便利な黒箱ツールではなく、細かいフラグを理解して使い分けることが重要 「10年前のXeonで最新級のLLMを動かす」と聞くと、正直かなり無茶に見えます。 でも今回の元記事は、その“無茶”をちゃんと工夫で押し切る話で、かなり面白いです。私はこういう、性能の限界をソフトウェアでねじ伏せる系の話が大好きです。ロマンがあります。 舞台は、2016年製の Intel Xeon E5-2620 v4 を積んだ再生サーバー。 メモリはなんと **128GB DDR3