AIモデルをクラウドで呼び出すやり方が当たり前になった一方で、端末の中で直接動く小さなモデルを見直そうという流れも強まっている。Desert Ant Labsの発表は、その動きをかなり強い言葉で押し出したものだ。単に「軽いモデルがあります」という話ではなく、音声・画像・テキストの仕事を端末内で即座に処理し、しかも無料で回せると主張している。この記事では、その新ラボが何を出してきたのかを整理したうえで、どこに現実味があり、どこに野心がにじんでいるのかを見ていく。
Desert Ant Labsは、欧州発の「opinionated on-device intelligence」を掲げるフロンティアAIラボとして立ち上がったと発表した。ここでいう on-device intelligence は、処理をクラウドに送らず、スマートフォンやPC、ブラウザの中で完結させる考え方だ。彼らはその方針をかなり徹底していて、音声、画像、テキスト向けの小型・特化型モデルをまとめて公開している。発表時点で最初の18モデルが使えるようになっており、そのうち12は stable、6は beta。Swift、Kotlin、JavaScript で使える一つの SDK から呼び出せる。
紹介されているモデルは、タスクごとに完全に役割分担されている。たとえば Voz は iPhone上で10分の音声を書き起こすのに2秒しかかからないとされ、Whisperより4.7倍速い。しかも各単語に開始・終了時刻が付く。Clear は9MBのモデルで、5分のノートPC録音を1秒でスタジオ品質に近い音へ整える。Redact は27言語で氏名、住所、カード番号などの個人情報をリアルタイムに伏せ、サーバーに送る前に止める。Tongue は2MBのモデルで、3語だけから84言語を識別する。
性能比較もかなり強気だ。Tongue は3語入力で 0.933 の精度を出し、293MBの検出器の 0.887 を上回ったとする。Redact は12MBモデルで、個人情報検出率 88.8% を示し、2.3GBの GLiNER-PII の 91.1% に迫る一方、Rampart や OpenAI filter より高い数値も示している。さらに、これらのモデルは月間10万台のアクティブデバイスまでは無料で使え、トークン課金もログインも不要だという。
この発表の背景には、同社が5年間作ってきた動画アプリ Detail がある。もともと Detail は on-device first の思想で作られていたが、Auto Edit のような短尺クリップ生成や、ポッドキャスト向け音声補正を入れると、クラウドAPIに頼らざるを得なかった。ユーザーが増えるほどインフラ費も膨らみ、毎回使える端末内モデルを探しては足りない部分を埋める、という作業が続いたという。そこで彼らは「モデルを自分たちで訓練する」方向へ進んだ。
発表文では、Clear が Dolby を置き換え、Voz が自社のオンデバイス書き起こしを5倍速くし、Clips は Claude Sonnet の代わりに10分の動画から12本のクリップを5秒で作ると説明している。Clips は284MBで、Sonnetと同等の品質を保ちながら10倍速く、エネルギー消費は470分の1だという。さらに Detail 6 は iOS 27 とともに登場し、これまで使っていたクラウドAPIをすべて自社モデルに置き換え、完全に端末内で動かす計画だとしている。
この発表でいちばん目を引くのは、モデルの性能そのものより「推論コストがゼロになる」という発想だと思う。クラウドのLLMは、使うたびに課金される。だから開発者は、全メッセージをチェックしたいのにコストが怖くて間引く、ということをよくやる。Desert Ant Labs はそこを逆転させたいのだろう。端末内なら、毎回走らせても費用が増えない。メールの下書き、音声のノイズ除去、写真のタグ付け、入力途中の個人情報検出のような地味だが頻度の高い処理に向いている。
ただ、ここで重要なのは「全部を小さなモデルで済ませられる」という話ではないことだ。彼ら自身も、まず小型の local model が答え、必要なら大きいモデル、最後にクラウドという層を想定している。つまり、これはクラウドAIの完全な置き換えではなく、クラウドを使う前の前段を広く端末に持ってくる構図だ。実際、NVIDIAの研究者がエージェント系の呼び出しの40〜70%は小型の専用モデルに振り分けられると見積もった、という記述もある。もしこの見立てが現場で当たるなら、クラウドは「何でも答える場所」から「難しい仕事だけに使う場所」へ変わるかもしれない。
もう一つ気になったのは、Desert Ant Labs が「Europe」という言葉をかなり強く押していることだ。彼らは on-device を「sovereign default」と呼び、データが顧客の手を離れない、他社クラウドに依存しない、アップロードしていないものは強制提出の対象にもならない、と述べている。これは単なるプライバシー訴求ではなく、データ主権や規制対応の文脈にかなり近い。欧州でプロダクトを作る企業や公共寄りの領域では、端末内処理の価値はかなり高いはずだ。
一方で、ここには誤解も入りやすい。端末で動くから安全、とは言い切れない。端末の紛失、OSの脆弱性、アプリ側の実装ミスがあれば情報は漏れるし、モデルが端末内にあっても生成結果をどう保存するかでリスクは残る。つまり「クラウドに送らない」は大きな一歩だが、セキュリティの終点ではない。それでも、個人情報の事前マスキングやローカルな音声処理のような用途では、クラウド送信を一度でも挟まない設計はかなり実務的だと思う。
発表文の語り口は、かなり意図的に「巨大モデルの競争」から距離を取っている。OpenAIやClaudeのような汎用LLMと正面衝突するのではなく、タスク特化・端末内・即時応答に寄せているからだ。これは賢い。なぜなら、写真のモデレーション、フィラー語検出、言語識別、録音の補正のような仕事は、最先端の推論能力よりも、レイテンシ、サイズ、常時実行のしやすさが効くからだ。大きなモデルが強い領域と、現場で毎回回したい処理は、実はあまり同じではない。
とはいえ、ベンチマークの数字は読み方に注意がいる。たとえば「Whisperより4.7倍速い」「Sonnetより10倍速い」といった比較は、条件が揃っているかで印象が大きく変わる。デバイス、音声の長さ、データの種類、品質基準が違えば、同じ倍率でも意味は変わるからだ。だから私は、この発表を「すごい数字が出た」と受け取るより、「端末内AIの使い道を実際の製品機能に落とし込むところまで来た」という宣言として見たい。特に Detail のように自社アプリを持っている会社が、自分たちの課題から逆算してモデルを作っている点は説得力がある。
研究論文だけで終わるなら、ここまで大きな話にはならない。Desert Ant Labs は Swift、Kotlin、JavaScript の SDK を用意し、GitHub で公開している。CLI で Mac 上でも試せるし、Hugging Face でも触れる。つまり彼らは「良いモデルがあります」ではなく、「アプリに入れる道筋まで用意しました」と言っているわけだ。開発者にとっては、ここが本質的に大きい。モデル単体の性能より、配布、実装、保守、発見性のほうが最後まで効くからだ。
ただ、ここで問われるのはモデル数ではなく、実際にどれだけ使い続けられるかだと思う。100個の小さなモデルがあっても、現場で触るのは結局10個かもしれない。しかも端末ごとの性能差は大きい。5年前のスマホでも動くと言っても、実際のUXは端末やOS、バッテリー残量で変わる。だから今後の焦点は、派手な初速より、どの機能が本当に毎日使われるのかに移るはずだ。Desert Ant Labs はその入口を、かなり明確に取りにいっている。
