PaPoo
cover
technews
Author
technews
世界の技術ニュースをリアルタイムでキャッチし、日本語でわかりやすく発信。AI・半導体・スタートアップから規制動向まで、グローバルテックシーンの「今」をお届けします。

Fireworks AIが「考えすぎるモデル」を削るEmber-1を出した理由

AIモデルは、答えの質だけでなく「どれだけトークンを使うか」で実運用の価値が大きく変わります。Fireworks AIが発表したEmber-1は、そのコスト問題に正面から答えにいくモデルです。派手な新機能を足すのではなく、既存の高性能モデルが吐き出しすぎる推論を抑えて、同じ答えをより少ないトークンで返すことを狙っています。派手さはないですが、企業の開発現場ではかなり効くタイプの改善だと思います。

Ember-1は「Kimi K3の答えを40%少ないトークンで返す」ように作られた

Fireworks Researchが出したEmber-1は、Kimi K3を土台にした専用モデルだ。公式の説明では、Kimi K3と同等の品質を保ちながら、使うトークンを40%減らせるという。ここでいうトークンは、モデルが読み書きする文字列の単位で、API利用料や応答時間に直結する。単に出力を短くしただけではなく、「必要のない推論を削り、必要な思考だけ残す」ように学習させたのがポイントだ。

背景には、推論型モデルが“考えすぎる”問題がある。Fireworksによると、Kimi K3のような reasoning model は、生成トークンの大半、場合によっては90%以上を内部の推論に使う。1回の問い合わせでも高くつくが、複数ターンの agentic workload ではさらに重い。前のターンで出した長い思考過程を、次の呼び出しでも再び読み込むため、文脈が増えるほどコストが膨らむからだ。

Fireworksは、K3の reasoning を単純に low に下げても、品質を落とさずには済まなかったと説明する。そこでモデル自体に「より効率よく考える」ことを学習させる方向へ進んだ。実験は50回超、評価は200回超行い、その過程で推論を短くする新しい training algorithms も作ったという。学習には Fireworks Serverless Training を使い、GPUの調達や管理なしで研究を回せたとも述べている。さらに、学習データには顧客データは使わず、自社データだけで進めた。

評価は外部ベンチマーク、実運用のA/Bテスト、自社の開発業務で行われた。特に印象的なのは、Doximityの Bedside Bench だ。これは500件の臨床ケースを含む医師検証済みのベンチマークで、Ember-1は open/closed を含む各種モデルの中で cost/task の新しい Pareto frontier を作ったとされる。ほかの業界ベンチマークでも、Kimi K3の public API pricing を基準にコストを計算すると、Ember-1はK3-maxと同等の品質を、かなり低い費用で達成した。Terminal Bench、SWE-bench Verified、SWE-Interact、DeepSWE、τ-2 Bench Airline などで、その傾向が確認されたという。

実運用の検証も行っている。2社の production coding workload で live A/B test をすると、品質はほぼ同等のまま、1タスクあたりのトークン消費が約35%減った。片方の顧客は、すでにEmber-1を本番運用へ移し、base model を置き換える計画を進めている。社内でも開発者に使わせたところ、切り替えに気づかれないままトークンだけ減ったとされる。Ember-1はServerless上でKimi K3と並ぶ serving option として Research Preview で提供され、今後は顧客のワークロード向けに training support も広げる方針だ。

「性能を上げる」より「無駄な思考を減らす」に賭けたのが面白い

この発表でいちばん面白いのは、Fireworksが性能競争の正面突破ではなく、推論の効率化に価値の軸をずらしたことだと思う。AI業界はどうしても「より賢いモデル」「より大きいモデル」に話が寄りやすい。でも実際の開発現場では、答えが少し良くなるより、毎回の呼び出しが数割安くなるほうが効く場面がかなり多い。とくに coding agent や自動化ワークロードは、1回あたりの費用が積み上がるので、40%の削減は見た目以上に大きい。

しかも、単純な short reasoning ではなく、「必要な self-reflection は残す」と明言しているのが肝だ。考えを短くするだけなら、もっと安直な方法はいくらでもある。でもそれでは、失敗から立て直す力や、途中で観察を取り込んで方針を変える力まで失いかねない。Ember-1は、その境目を学習で詰めにいったモデルに見える。ここはかなり重要で、単なる圧縮ではなく、実用上の知能を残したまま推論を絞る設計思想が見える。

それでも「同等品質」はベンチマーク依存だと見たほうがいい

一方で、Fireworksの主張をそのまま万能視するのは危ないとも思う。記事では7つのベンチマーク、2社の production traffic、自社の開発業務でうまくいったと書いてある。ただ、ベンチマークは仕事の一部しか映さないし、A/B test も対象業務が coding に寄っている。Ember-1が強いのは、少なくとも現時点では「reasoning token がコストの大半を占める、比較的構造化された仕事」ではないか。自由度の高い対話、長期記憶が必要なタスク、曖昧な要件定義のような場面で同じ結果になるかは、まだ慎重に見たほうがいい。

それでも、ここでFireworksが示した数字は軽くない。SWE-bench Verified ではK3 max にかなり近い水準を保ちつつコストを下げ、社内では開発者が気づかないまま使い続けたという。もしこの再現性が本当に広いなら、「最高性能の単一モデルを全部の仕事に使う」時代から、「仕事ごとに最適化した specialized model を選ぶ」時代へ、実務の重心が少しずつ移るはずだ。私はその流れが、今後のAI運用ではかなり現実的になると思う。

Fireworksが売りたいのはモデル単体ではなく、学習と配信の仕組みそのものだ

今回の発表で見落としにくいのは、Ember-1が単独製品というより、Fireworksのプラットフォーム戦略の見本になっていることだ。Fireworksは serverless training を前面に出し、GPUの管理を意識せずに研究から公開まで回せることを強調している。つまり、彼らが売りたいのは「このモデルをどうぞ」だけではなく、「自分たちのワークロードに合わせた専用モデルを、比較的短いサイクルで作れます」という運用基盤のほうだ。

これは、汎用モデルをそのまま使うより、企業ごとに小さく調整したほうが得だという流れとも合っている。とくにコード生成や agentic systems は、業務の癖が強い。どんな言い回しを好むか、どのツールを使うか、どこで長考しやすいかは会社ごとに違う。そこを学習で詰めて、しかもトークンコストを下げられるなら、カスタムモデルの意味はかなり大きい。Ember-1は、その入口として出された感じがある。

「賢さ」より「経済性」を競うモデルが増えると、選び方も変わる

この発表が示しているのは、AIモデルの評価軸が少し変わってきた、ということだと思う。これまではベンチマークのスコアや新機能が先に立ちやすかったが、Ember-1は quality/cost の曲線で自分を売っている。しかも、記事中の表現を借りれば Pareto frontier に乗るか近い位置にいる、つまり「安いのに性能が落ちにくい」ことを強く押している。企業にとっては、これがかなり現実的な競争力になる。

今後は、モデル名を見て「一番賢そうなもの」を選ぶより、ワークロードごとに「どれがいちばん無駄が少ないか」を比べる場面が増えるはずだ。Ember-1はその先触れに見える。派手なブレークスルーではないが、実際にお金を払う側にはこういう改善のほうが効く。Fireworksは、そこをよく分かっていると感じた。


参考: Introducing Ember-1

同じ著者の記事