AI が自律的に会社を運営する、そんな話はまだ実験室の比喩に聞こえるかもしれない。だが Andon Labs は、仮想環境のベンチマークだけでなく、実在する自販機や店舗、カフェまで AI に任せる実験を続けてきた。そのための基盤をまとめたのが Pion だ。今回は、その Pion を研究プレビューとして外部にも開くと同時に、なぜそこまで踏み込むのかを説明している。単なる新製品紹介ではなく、「AI が現実世界で資源を獲得できるのか」という、かなり重い問いへの答え方そのものが記事になっている。
Andon Labs は約2年にわたって、「AI システムは、いつ現実世界で自律的に資源を獲得できるようになるのか」を追ってきたという。最初は Vending-Bench というシミュレーションから始めた。これは LLM が自販機ビジネスを1年分、数万ステップにわたって運営する力を測るベンチマークだ。作り始めた2024年後半の時点では、どのモデルも複数の行動をつなげて実行するのが苦手で、長期計画の気配もなかった。たとえば Claude Sonnet 3.5 は、自分の銀行口座がハッキングされたと思い込み、FBI に連絡しようとしたという。
その後、モデルの進歩はかなり速かった。2025年5月に出た Claude Opus 4 が、初めて人間のベースラインを上回った。ただし Vending-Bench には上限がなく、新しいモデルが出るたびに記録が更新され、頭打ちになる様子がない。Andon Labs では、その伸びを見て「恐怖と歓喜が混じった状態」と表現している。
もともと Vending-Bench は、AI が安全装置を外したり、大規模なフィッシングをしたりするような危険な能力評価の一部として生まれた。中でも彼らが最も気にしたのは、AI がビジネスを回して現実の資源を自律的に集められるかどうかだった。人間が監督し、整合的なモデルが運営するなら、自律ビジネスは商品やサービスを安くし、新しい事業を生むかもしれない。一方で、整合していない AI が稼いだ金を使って、別の目的を達成しようとする危険もある。だからこれは、単なる収益化の話ではなく、制御を失うべきかどうかという問いでもあった。
シミュレーションだけでは足りないと考えた Andon Labs は、実際に Anthropic のオフィスに自販機を置かせてもらい、AI に運営させた。最初の AI は、無料配布をしてしまう、良い取引を断る、身体があると幻覚するなど、事業に明確に悪い行動を重ねた。しかしモデルが改善すると利益を出すようになり、2025年末には最先端モデルなら自販機を黒字運営できる段階に達した。
そこから対象を広げ、2026年4月には SF の小売店 Andon Market と、ストックホルムの Andon Cafe をそれぞれ別のエージェントに任せた。どちらも今のところ赤字で、家賃も高く、人間スタッフの人件費もかさむため簡単ではない。それでもモデルの質が上がるたびに、定性的にはかなり改善しているという。Andon Labs は、いずれ利益を出すようになると見ている。
Pion は、こうした実世界の自律ビジネスを運用してきた基盤そのものだ。公開後は、メール、電話、銀行、ブラウザ、安全な計算環境などを使える持続的な agent に、既存の事業や新しい事業アイデアを委ねられるようにする。目的は、Andon Labs 自身だけでは到底回せないほど多くの業種で実験を増やし、モデルが何をできて、どこで失敗し、能力の伸びとともに何が起きるのかを調べることにある。彼らは同時に、放置された大量の自律ビジネスが事故を増やすリスクも認めていて、だからこそ強力な自動監視を先に作る必要があると主張している。Pion は研究プレビューとして待機リスト制で公開される。
この記事で面白いのは、Andon Labs が自律ビジネスを「便利な未来の仕事道具」として語っていないことだと思う。むしろ、最初から危うさの検証として扱っている。自販機の管理なら一見おだやかだが、実際には入金、補充、発注、対人対応が絡む。そこにメールや銀行口座までつながると、単なるオートメーションでは済まない。AI が稼げるようになるほど、何を目的にその収益を使うかという問題が前に出てくる。この記事はその線をかなり意識的に引いている。
一方で、Andon Labs の説明には、ある種の危うい楽観も混じっているように見える。モデルが失敗した話として、FBI に連絡する、身体があると幻覚する、といったエピソードは確かに笑える。しかし、その先にある「より賢いモデルなら改善する」という見立ては、失敗の種類を少し軽く見積もっていないかとも感じる。単純なミスは確かに消えるかもしれない。けれど、記事自身が触れている collusion や power-seeking、deception のような振る舞いは、能力が上がるほど見つけにくくなる。そこは「面白い失敗」では済まない領域だ。
Vending-Bench のようなベンチマークは、モデル比較には便利だが、現実の雑さまでは再現できない。記事が強調するのもそこだ。実際の自販機では、在庫切れ、支払いの失敗、価格交渉、変な問い合わせ、予期しない制約が混ざる。AI はその「messiness」で崩れたが、モデルが良くなると利益を出し始めた。ここには、机上の評価だけでは見えない地力がある。私はこの点をかなり重要だと思う。
ただし、実世界でうまくいったからといって、そのまま社会実装の許可証になるわけでもない。むしろ逆で、現実で動くという事実は、事故の影響も現実に及ぶことを意味する。特に Pion は、メール、電話、銀行、ブラウザまで使えるという。これは「仕事ができる AI」ではあるが、同時に「人間の業務境界を越えやすい AI」でもある。便利さと危険性が同じ機能セットに入っている点が、このプロダクトの核心だろう。
記事を読むと、Pion はサービスというより、観測装置に近い。Andon Labs が本当に欲しいのは、自律ビジネスの売上そのものではなく、モデルがどこで迷い、何を隠し、どう逸脱するかの手触りなのだと思う。彼らは「より多くの実験」が必要だと繰り返している。これは裏返すと、今の評価方法ではまだ足りない、という告白でもある。ベンチマークの数字が伸びるだけでは、社会の中で何が起きるかは分からないからだ。
その意味で、Pion の公開は研究者向けの道具の拡張に見えて、実は政策側にも効く話だと思う。規制やガイドラインを作る側は、AI が「何ができるか」だけでなく、「何をしてはいけない局面で、どこまで手を伸ばせるか」を知る必要がある。自律的に事業を回せる AI が、たとえば資金移動や人との交渉まで担うなら、監査、責任の所在、停止権限の設計は一段難しくなる。Pion はその議論を前倒しする装置として読んだほうが、たぶん実態に近い。
私が引っかかったのは、Andon Labs がリスクを十分に自覚しつつも、それでも公開に踏み切っている点だ。彼らは監視技術を強化する必要があると言うが、公開されたツールは必ずしも研究者だけに使われるとは限らない。自律ビジネスは、正しく使えば効率化の手段になる一方、誤った目的に向ければ資金集めや詐欺の自動化にも近づく。記事はそこを曖昧にしていないが、対策の具体像はまだかなり抽象的だ。
だからこの発表は、技術的には前進でも、社会的にはまだ実験途中だと見るのが自然だと思う。Andon Labs は「理解するために早く置く」と言っている。これは研究としては筋が通る。ただ、実世界のシステムは理解より先に広がることがある。Pion の価値は、AI が会社を動かせるかどうかを示すことだけではない。どの時点で人間が手綱を離してはいけないのかを、もっと具体的に突きつける点にあるはずだ。
