PaPoo
cover
technews
Author
technews
世界の技術ニュースをリアルタイムでキャッチし、日本語でわかりやすく発信。AI・半導体・スタートアップから規制動向まで、グローバルテックシーンの「今」をお届けします。

TypeSafe AIが「会話するモデル」ではなく「判断するモデル」を出した理由

AIモデルはチャットには向いているのに、実務の自動化になると急に頼りなくなる。TypeSafe AIはその違和感に真正面から答える形で、System One Modelsと初の公開モデル「Jev」を発表した。この記事は、ただの新製品発表というより、「LLMの次に何を作るべきか」をかなり強い言葉で言い直した宣言に近い。読みどころは、彼らが何を捨て、何を機械向けの新しい標準にしようとしているかだ。

Jevが狙うのは、会話ではなくソフトウェアの判断だ

TypeSafe AIの創業者Diogo Almeidaは、元OpenAIの研究者として、言語モデルを指示に従わせ、人と会話できるようにする方法づくりに関わってきたという。その流れがChatGPTにつながった一方で、彼は「モデルはチャットでは超人的でも、なぜ自動化はまだ十分広がっていないのか」という問いを抱え続けていた。そこで同社は、2年のステルス期間と多くの技術課題を経て、System One Modelsという新しいクラスのフロンティアモデルを打ち出した。目的は、ソフトウェアがそのまま使える高速で構造化された判断を返すことだ。

最初の公開モデルがJevで、早期アクセスとして提供されている。TypeSafe AIは、Jevが既存のLLMと同程度の知能をSystem Oneタスクで示しながら、速度と効率は100倍規模で高いと主張している。しかも、文字列を自由に生成する設計をあえて捨て、構造化された出力に特化したことで、hallucinationを起こさないと説明する。彼らの言い方を借りれば、Jevは「frontier-intelligence function call」であり、未整形の状態を入力すると、型付きの確率的判断を返す。ここでいう型付きとは、出力の形があらかじめ決まっていて、ソフトウェアがパースや検証に苦労しなくて済む、という意味だ。

技術面では、新しいモデルアーキテクチャに加え、parallel sampler、そしてRLCDと呼ぶ Reinforcement Learning for Calibrated Decisions を使っている。これは、人間の好みに寄せるRLHFや、検証可能な報酬を使うRLVRとは違い、System Oneの課題で「どの答えがどれくらい確からしいか」を率直に返すことを最適化する。比較表では、従来のLLMが非構造なテキスト入力を受け、順番にトークンを出すのに対し、System One + Jevは構造化されたプログラム状態を入力にし、出力は事前定義された型付き値になる。サンプリングも逐次ではなく並列で、推論のたびに全出力を一度に生成する。料金は入力が$0.042 / MTok、出力は無料とされ、速度は70msから500ms。TypeSafe AIはこれを、frontier intelligenceを保ったまま40倍から200倍速く動くケースがあると書いている。

用途の説明もかなりはっきりしている。チャットボットやコーディングエージェントのように人間が見張る用途ではなく、分類、ルーティング、スコアリング、抽出、分岐といった、ソフトウェアのif文を少し賢くしたような処理に向くという。さらに、数式証明やカーネル最適化のように正解を自動検証しやすい問題、リアルタイム性が重要なアプリ、LLMの出力やreasoning traceを検証・監視する用途にも向くと説明している。DoomやWikiracingのデモも載せており、前者はゲーム状態を見て反応する実時間AI、後者はWikipediaのリンクをたどって目的ページに到達するゲームだ。TypeSafe AIは、こうしたデモとワークフロー評価を通じて、自分たちの主張が単なる雰囲気ではないと示そうとしている。

「文字列をやめる」は、かなり過激だが筋は通っている

この発表でいちばん面白いのは、TypeSafe AIが「生成の自由」を削ることを弱点ではなく武器として扱っている点だと思う。普通、LLMは自由度が高いほど汎用性があると考えられがちだ。ところが実運用では、その自由さがそのまま事故の余地になる。ツール呼び出しを一度間違えるだけで、エージェントの流れは止まる。画面の向こうでユーザーと雑談するだけならまだしも、コードの依存関係の奥で動くなら、ひとつの型エラーが全体を壊す。TypeSafe AIはそこに真正面から賭けている。出力を型で縛り、確率まで返させる。AIを「話し相手」ではなく「部品」に落とし込もうとしているわけだ。

私は、この発想はかなり現実的だと思う。なぜなら、企業が本当に欲しいのは「すごい会話」より「壊れにくい自動化」だからだ。特に、社内ワークフローやバックオフィス処理、監査のある業務では、多少賢いだけのモデルより、失敗の仕方が予測できるモデルのほうが価値がある。ここで大事なのは、Jevが“知能”を捨てたわけではないことだ。TypeSafe AIは、System One tasksでは既存LLMと同程度の知能を保ったまま、出力形式だけを厳格にしたいと言っている。もしそれが本当なら、AIを導入する理由が「会話が自然だから」から「処理が安定するから」へ移る。これは市場の空気を少し変える可能性がある。

速度と価格の話は、派手だが読み方にコツがいる

TypeSafe AIは、Jevの速度を70ms〜500ms、既存のフロンティアモデル比で40倍〜200倍高速とし、価格もかなり攻めた数字を出している。入力は$0.042 / MTok、出力は無料。ホームページでは193.6x faster、444.6x cheaperという数字の由来もこの評価から来ているとしている。ただし、本文でも自ら注記しているように、評価は自分たちのラップトップから実行したものだったり、比較相手に外部モデルの平均予測を使っていたりする。つまり、数字は重要だが、単純に「既存モデルを完全に置き換える」と受け取るのは早い。

それでも、私はこの速度とコストの訴えは無視できないと思う。自動化で本当に効くのは、モデルが賢いかどうかだけではなく、1回の判断を何回繰り返せるかだ。もし100ms台で返ってくるなら、1回のAPIコールを前提にした設計から、何十回も判断を積み重ねる設計へと変えられる。たとえば、ルールベースでは壊れやすく、巨大LLMでは遅すぎる領域に、かなり現実的な穴が開く。もちろん、価格が安いからすぐ大規模導入、とはならない。型の厳密さ、評価の再現性、失敗したときの挙動まで揃って初めて、企業は本番に入れる。だからこの発表は、コスト競争のニュースというより、「AIをソフトウェアの中にどこまで埋め込めるか」の試金石として見るほうが本質に近い。

いちばん気になるのは、LLMとの共存の設計だ

TypeSafe AIの主張を読んでいて引っかかるのは、彼らがLLMを完全に否定しているわけではないことだ。むしろ、LLMをSystem One LLM Wrapperで構造化決定に変換し、同じ評価枠で比べている。つまり彼らは「LLMは使えない」と言っているのではなく、「LLMをそのまま使うと遅いし不安定だから、判断の層を別に持つべきだ」と言っている。ここに、現場での落としどころがある。大規模言語モデルは上位の推論や生成に残り、その下でJevのような構造化判断モデルが振る舞う。もしこの分業がうまくいけば、AIスタックはかなり整理されるはずだ。

一方で、ここには競争の難しさもあると思う。大手モデルはこれまで、チャット性能やreasoning性能を軸に進化してきたが、今後は「構造化出力をどれだけ安く、速く、安定して返せるか」でも比べられる。TypeSafe AIはそこに先回りしている。だが、その優位は、システムの外側にある評価やワークフローまで含めて初めて意味を持つ。結局、企業はモデル単体ではなく、失敗しない周辺設計を買うからだ。私はこの発表を、モデル市場の勝負が「会話の上手さ」から「業務に埋め込んだときの扱いやすさ」へ少しずつ移っているサインとして受け取った。Jevがその変化を本当に押し広げるのか、それとも先走りの宣言で終わるのか。そこは今後の実運用で見えてくる。


参考: Introducing System One Models & Jev - TypeSafe AI Blog

同じ著者の記事