Cerebras Inference が公開している Model Catalog は、同社の public endpoints で使えるモデルをひとまとめにした案内ページだ。単なるモデル名の羅列ではなく、どのモデルが使えるのか、無料トライアルや従量課金でどう扱われるのか、そして圧縮や量子化についてどこまで明かしているのかまで書いてある。クラウド推論サービスは似た名前のメニューが増えやすいが、このページは「何をそのまま提供し、何をいじっていないか」を前面に出しているところが目立つ。そこが今回取り上げる理由だ。
元記事は、Cerebras Inference の Model Catalog として、公開 endpoint で利用できるモデルを一覧化している。ここでの「public endpoints」は無料トライアルと pay-as-you-go の両方で使えるが、レート制限と価格の対象になる。一方で、より多くの model families、予約済みの容量、より高いスループット、production SLA が必要なら Dedicated Endpoints を見てほしい、と案内している。つまり、同じ Cerebras の推論基盤でも、誰でも使える共有型の入り口と、商用利用向けの専用枠を分けているわけだ。
ページの中心は Available Models の表だ。ここには少なくとも 2 つのモデルが載っている。ひとつは OpenAI GPT OSS で、model ID は gpt-oss-120b、parameters は 120 billion、context は free が 65k、paid が 131k、speed はおよそ 3000 tokens/s とされている。もうひとつは Qwen 3.8 27B で、model ID は qwen-3.8-27b、parameters は 27 billion、context は free が 64k、paid が 128k、speed はおよそ 1500 tokens/s だ。各モデル名を押すと full specs、capabilities、tier ごとの上限が見られるという。新規利用者には Quickstart から最初の API call を試し、用途で選ぶなら model selection guide を参照してほしいとも書いてある。
その下にある Model Compression の説明は、このページのもう一つの核だ。Cerebras はコミュニティ由来の open-source models を多数ホストしているが、public endpoints では pruned models を出していない。公開 API で提供しているのは、すべて original で unpruned な版本だと明言している。REAP という pruning 研究は進めており、その pruned models は Hugging Face で研究コミュニティに共有しているものの、shared API では使えない。さらに、Cerebras は selective weight-only quantization を storage 時だけに使い、品質をできるだけ保つと説明する。重みは 16-bit / 8-bit / 4-bit を組み合わせて保存するが、敏感な層は full precision のままにし、dequantization は on the fly で行う。activations、attention、kv cache は full precision で unquantized のままだという。
FAQ では、将来もモデルの architecture を予告なく変えないのか、という問いに対して No と答えている。既存 endpoint では original model を修正せず提供し続ける方針で、pruning もしない。もし今後 pruning のような別の compression を試すなら、それは pruning-specific names を付けた separate endpoint として出すので、利用者はどの版を使っているかをはっきり選べる、としている。REAP の pruned models は Hugging Face の Cerebras REAP Collection にあるが、これは研究・実験向けで、production API には載っていない。最後に、compression はモデルを小さくしたり計算量を減らしたりする総称で、quantization は重みの数値精度を下げること、pruning は層や experts を恒久的に削ることだと整理している。
このページでまず面白いのは、Cerebras が「速い推論サービスです」とだけ言わず、その速さがどのモデルで、どの context 長で、どの tier で、どれくらい出るのかをかなり具体的に書いている点だと思う。~3000 tokens/s と ~1500 tokens/s という数字は、API の案内ページとしてはかなり目立つ。もちろん、こういう speed の値は実測条件で見え方が変わるので、数字だけで優劣を断定するのは危ない。それでも、公開 endpoint の時点でこの速度感を前面に出すのは、単に「LLM を置いています」ではなく、「長文をかなりのスピードで流したい人向けです」というメッセージに近い。
もう一つ重要なのは、context の切り分けが free / paid で違うことだ。gpt-oss-120b が 65k と 131k、qwen-3.8-27b が 64k と 128k という出し方は、単に無料版の制限を示すだけではない。要するに、同じモデルでも使い方の余地が tier によってかなり変わる。長いドキュメントを入れる、会話履歴を伸ばす、あるいは複数の資料をまとめて扱うとき、context が半分になるだけでも体感は大きい。だからこのページは、モデル選定というより「どの程度の作業をどの料金帯で回せるか」の案内に近い役割を持っている。
Cerebras がかなり丁寧に言っているのは、public endpoints に載っているモデルは original で unpruned だ、という点だ。これをここまで明示するのは、最近の推論サービスが compression を前面に押し出すことへの反応でもあると思う。モデルを軽くすれば速くなるし安くもなるが、そのぶん中身は変わる。利用者から見れば、同じモデル名に見えても実際は別物だった、というのが一番困る。Cerebras はその不信感を避けたいのだろう。
ただし、ここで気になるのは「透明性」をかなり強調しながら、同時に selective weight-only quantization を使っていることだ。これはモデルの architecture を変える pruning ではなく、保存時の圧縮だと説明されている。つまり Cerebras は、利用者が気にするべき変更と、内部実装上の最適化を分けて見せている。私はこの線引きは悪くないと思う。推論基盤を選ぶとき、本当に知りたいのは「見た目のモデル名」よりも、出力の性格がどこまで変わるかだからだ。保存形式だけを工夫して性能や品質を守るなら、少なくとも利用者の認識は保ちやすい。
FAQ で印象に残るのは、REAP の pruned models を Hugging Face に置き、production API には載せないと切り分けていることだ。これは研究と商用提供の住み分けとしてはかなりきれいだと思う。pruning は面白い技術だが、どこを削ったかで挙動が変わる可能性がある。研究用には刺激的でも、shared API に入れると利用者は「この endpoint は何版なのか」を常に気にしなければならない。Cerebras はそこを避けている。
この判断は、モデル品質の話というより、契約の話に近い。API を使う側は、速度だけでなく再現性を買っている。昨日と同じ入力を投げたときに、少なくともモデルの構造は同じであってほしい。その安心感があるから、アプリケーション側は評価や運用の手間を減らせる。Cerebras が「将来 pruning をやるなら separate endpoint にする」とわざわざ書いているのは、技術的な説明というより、信頼の約束だと受け取ったほうが自然だろう。
元記事を読むと、Model Catalog は単純な一覧ページではなく、利用者をどう誘導するかまで含めた設計図になっていると感じる。新規利用者には Quickstart、用途で迷うなら model selection guide、もっと多くの model families が必要なら Dedicated Endpoints、そして詳細を見るなら各モデル名をクリック、という流れがきれいに敷かれている。API サービスは、モデルの魅力よりも導線の悪さで離脱が起きやすい。だからこそ、最初のページで「どれを使うか」と「どの制約を受けるか」をかなりはっきり分けているのだろう。
私は、この作り方はかなり実務的だと思う。派手なデモを置くより、無料枠・従量課金・専用枠の境界を明示し、圧縮の有無まで先に説明するほうが、あとで揉めにくい。とくに企業利用では、速度よりも「何が変わらないか」が大事になる場面がある。Cerebras のこのページは、その不安を先回りして潰そうとしているように見える。大きく言えば、これはモデルカタログであると同時に、利用者との契約書の入口でもある。
