#ssd

Apple Silicon の Mac で、2.8兆パラメータ級の MoE モデルをどう動かすか。argonautlabsai/deltafin は、その無茶にかなり真面目に挑んだ GitHub リポジトリだ。単なる「動いた」報告ではなく、SSD から expert をストリーミングしながら、どこまで実用速度に近づけるかをベンチマーク付きで公開している。しかも、モデルを削ったり「だいたい同じ」で済ませたりしない。そこがこの話の面白いところだと思う。 元記事が扱っているのは、ARGODRIVE Deltafin という fork だ。元になっているのは gavamedia/deltafin で、そこに ARGODRIVE の storage work と benchmark package を足したものだという。狙いははっきりしていて、Kimi K3 を「フルのまま」、しかも Apple Silicon 上でできるだけ速く動かすことにある。 README の TL;DR では、Kimi K3 は 2.8T-parameter の MoE モデルで、expert weights は 1.4

Codex CLI がローカルの SQLite ログに、想像以上の量を書き込んでいた 1年換算で約640TBもの書き込みになりうる、という指摘が出た これは SSD の寿命、つまり「書ける回数の限界」をじわじわ削る 原因は、TRACE などの細かすぎるログを広く残しすぎていたこと その後、ログの量を減らす修正がマージされ、問題はかなり改善された この Issue を読んでまず思ったのは、「ログって便利だけど、やりすぎると普通に凶器になるんだな」ということです。ふだんログは、何か問題が起きたときに頼る“記録係”みたいな存在です。でも Codex のこの件では、その記録係がほぼ24時間、延々とメモを取り続けていたわけです。しかも保存先は SQLite データベース。これは軽く見えるけれど、書き込みが多すぎると話が変わります。 この Issue のタイトルはかなり直接的で、要するに「Codex の SQLite feedback logs が、年間約640TBもの書き込みを生み、SSD の耐久性を急速に消耗させる」という警告です。報告したユーザーは、実機で21日ほど動かしたところ、メインSS

DellがKioxiaの超大容量QLC SSD「LC9」を採用し、2RUの薄型サーバーに約9.8PBの容量を実現した 搭載されるのは、40本の245.76TB NVMe SSD ベースはAMD EPYC 9005搭載のDell PowerEdge R7725xd 最大5本の400Gbps NICを積めるので、入れたデータを高速に外へ出せる これだけの密度だと、1ラックで理論上196PB級も見えてくる 近い将来、256TB級SSDやさらに大きい1PB SSDの話まで出てきている DellとKioxiaがやったことを一言でいうと、「かなり薄いサーバーに、とんでもない量のSSDを押し込んだ」という話です。 2RUというのは、データセンターで使うラックサーバーの高さを表す単位で、ざっくり言えば「そこそこ薄い2段分のサーバー」くらいのイメージです。 その中に入った容量が約9.8PB。PBはペタバイトで、1PBは1000TBですから、これはもう一般的な感覚だと桁が大きすぎてピンと来ません。 単純に言えば、**めちゃくちゃ大量のデータを、かなり小さな場所に詰め込めるようになっ