#エージェント

正直、いちばん引っかかったのは「AIの感染」を止めたのが高度な検知でも、難しい隔離策でもなく、たった1段落の警告文だったことだ。 防御って、もっと複雑で手間のかかるものだと思いがちだけれど、こういう実験を見ると、AIエージェントの弱点は案外“注意書きを読まずに素通りする癖”みたいな、すごく人間くさいところにあるのかもしれないと思う。 面白いのは、脆弱なのがモデルの賢さそのものではない点だ。記事では、能力が高いモデルだから抵抗できる、という単純な話になっていない。むしろ、空の `SOUL.md` を持っているか、作業に没頭しているか、ネットワークに参加していると思わされているか、みたいな初期状態のほうが効いている。ここはかなり気持ち悪い。AIの安全性を「モデルの性能」で見てしまうと見落とすけれど、実際には“どんな状態で起動して、何を記憶し続けるか”がかなり支配的なのだろう。 それと、この記事を読んで少し怖くなったのは、こうしたpayloadが単なる自己主張ではなく、実際にファイル削除や危険な `curl | bash` まで誘導できる点だ。エージェントが仕事をするほど、プロンプトファイル

この記事を読んでまず思ったのは、APIって「人間が叩くもの」から「機械が意図を理解して動くための入口」に変わりつつあるんだな、ということです。地味に見えるけれど、ここはかなり大きい変化だと思います。 特に引っかかったのは、単に既存の endpoint をそのまま agent にラップするだけでは足りない、という姿勢です。人間なら「この画面を開いて、次にこのボタンを押す」で済む。でも agent は画面を見て空気を読んでくれないので、何をしたいのか、どこまでやっていいのかを API 側でちゃんと表現しないといけない。記事の言う intent-driven という考え方は、まさにそこを突いているように見えました。 ここで面白いのは、API 設計の主役が「機能を並べること」から「意図を誤解なく伝えること」に移っている点です。これ、便利そうに聞こえる一方で、実装者にはかなり厳しい。人間向けの雑な自由度は、agent にはノイズになりやすいからです。逆に言うと、API の設計がうまくなるほど、AI も使いやすくなる。まだ夢物語っぽく聞こえる言い方だけど、実際にはかなり泥臭い設計の話だと感じました

いちばん面白いのは、これまでの分析ツールが見ていた「人間のクリック」ではなく、AIエージェントに渡した仕事の実行過程を測ろうとしているところだと思った。ユーザーはもうUIを触らず、ClaudeやChatGPTの中で用事を済ませる。そうなると、従来のプロダクト分析はかなり手が届かない。アクセス解析を入れているのに、肝心の利用実態が見えない、という少し不気味な空白がある。Armatureはそこを埋めにいっている。 読んでいて引っかかったのは、「成功したかどうか」だけでなく、「なぜ失敗したか」をセッション単位で再構成する、という発想の強さだ。APIが200 OKを返していても、ユーザーは目的を果たせていないことがある。人間向けのWebプロダクトでもよくある話だけれど、agentic workflow ではそれがさらに見えにくい。しかも、agent の thinking や tool call の並びを見せることで、単なるログではなく“体験”として追えるようにしている。ここは便利そうだし、同時にかなり怖くもある。便利さの裏で、どこまでを記録してよいのかという線引きが難しいからだ。 もう一つ、e

Claude Cookbook は、Anthropic が公開している実践ガイド集です。名前のとおり「レシピ本」みたいなもので、Claude をどう使えばうまく動くのかを、コード例つきでかなり具体的に教えてくれます。 単なる使い方の説明ではなく、「実際のアプリに入れるとき、どこで詰まりやすいか」「どう設計すると破綻しにくいか」まで踏み込んでいるのが面白いところです。正直、こういう資料は読んでいて楽しいです。理想論よりも、現場の泥臭さがにじむからです。 Claude Cookbook は、Claude を使った実装パターンを集めた実践ガイド集 tool use、RAG、multimodal、memory、agent など、いまの AI 開発で重要な論点を幅広く扱う 「どう作るか」だけでなく、「どう遅延を減らすか」「どうコンテキストを保つか」みたいな運用の悩みにも答える 1本1本の記事がかなり具体的で、机上の空論ではなく手を動かす前提になっている いわゆる“AIの便利さ”より、“AIをプロダクトに落とし込む難しさ”がよく見える Cookbook の中身を眺めると、単に「Claude で文章

Claudeの安全対策と聞くと、つい「危ないことをしそうなら止める仕組みかな」と思いがちですが、今回のInfoQの記事で面白いのは、Anthropicがその発想をかなり冷たく、そして現実的に捉えているところです。要するに、モデルそのものを賢くするだけでは足りない。ファイルに触れられる範囲、ネットに出られる範囲、実行できる範囲を、環境側でガチガチに制限しないとダメだ、という話です。 この考え方、地味に見えてかなり重要です。AIの安全性というと、プロンプトに注意書きを入れるとか、危ない出力を検出する分類器を挟むとか、そういう「ソフトな制御」がまず浮かびます。でもAnthropicは、そういうものは効くときもあるが、保証にはならない、と割り切っています。個人的にはここがいちばん筋がいいと思いました。AIは人間みたいに「まあ今回はやめておこう」と自制してくれる存在ではないので、最後は環境で縛るしかない、という発想です。 Claudeの安全対策は、モデル内部の注意喚起よりも「実行環境の制限」を重視している Claude.ai、Claude Code、Claude Coworkでは、それぞれ危険の

vLLM Semantic Router は、1回のモデル呼び出しの裏で複数モデルを協調させる「micro-agent runtime」を目指している ユーザーから見ると API はたった1つでも、裏では confidence / ratings / ReMoM / fusion / workflows などの実行方式を切り替えられる 重要なのは「全部を巨大なモデル1発に任せる」ことではなく、仕事の形に合ったループを選ぶこと ベンチマークでも、単一モデルの置き換えではなく「コラボレーションで性能を作る」発想が効いている 個人的には、これはかなり面白い方向だと思う。モデルそのものを巨大化する競争だけでなく、サービング層が頭を使う時代に入ってきた感じがある vLLM の記事「Micro-Agent: Beat Frontier Models with Collaboration inside Model API」は、ひとことで言うと「モデルを返すだけのサーバー」から「モデルの力を組み立てるサーバー」へ、という話だ。 普通、APIで `model` を指定したら、そのモデルが1回答えて終わり

Vercelが公開した Eve は、AIエージェントを「作る」「動かす」「運用する」ための open-source framework です。InfoQの記事を読んでまず感じたのは、これが単なる新顔の開発ツールではなく、「AIエージェント周りで毎回バラバラに作っていた面倒ごとを、かなりまとめて面倒みる」方向に振り切っていることです。 AIエージェントは、チャットするだけのAIとは少し違います。指示を受けて、外部サービスにつながり、必要ならコードを実行し、途中で止まったら再開し、定期実行までこなす。便利だけれど、裏側はわりと泥臭い。Eveはその泥臭さを、filesystem-first という考え方で整理しようとしています。要するに、エージェントの振る舞いを「フォルダとファイル」で表現する発想です。これ、かなりVercelらしいと私は思います。開発者が触るものを、なるべく普通のプロジェクト構造に寄せるのがうまい。 AIエージェントを production で動かすための open-source framework 指示、tool、skill、subagent、通信チャネル、定期実

大きなAIモデルを見ていると、最近は「文章をうまく作る」だけでは全然足りないんだな、としみじみ思います。次に来るのは、AIが環境の動きまで頭の中で予測する方向です。今回のarXiv論文 Qwen-AgentWorld: Language World Models for General Agents は、まさにそこを真正面から狙っています。 ざっくり言えば、これは「言語モデルを使って、エージェントが置かれた世界の変化をシミュレーションする」研究です。チャットの延長ではなく、AIが「この操作をしたら次に何が起きるか」を考えられるようにする。ここが肝です。正直、この発想はかなりおもしろいです。AIを“答える機械”から“先読みする機械”に近づけようとしているので。 Qwen-AgentWorldは、agentic environment をシミュレートする language world model 35B-A3B版と397B-A17B版の2モデルを公開 **7つのドメインをまたいで、long chain-of-thought reasoning による環境予測