AzureのAIゲートウェイ、便利そうなのに境界が気になる
最初に思ったのは、「ようやくここまで来たか」というより、「ここまで一つの入口に寄せるなら、責任の境界もかなりはっきりさせないと怖いな」という感覚でした。 モデル、MCP server、tool をまとめて gateway で扱うのは確かに気持ちがいいです。アプリごとにバラバラに持つより、運用も監査も楽になるはずだし、rate limit や spend control を後から継ぎ足す苦労も減りそうです。 ただ、読んでいて一番引っかかったのは、そこが「便利な共通基盤」になるほど、どこまでを gateway が見て、どこからを orchestration layer が見るのかが曖昧になりやすいことでした。 記事でも、agent の run がきれいに終わらなかったときに出力をどう残すのか、再試行を誰が責任持つのか、という疑問が出ていましたが、これはかなり本質的だと思います。単にトラフィックをさばく箱なのか、それとも AI の実行そのものを統治する層なのかで、設計思想が全然違うからです。 もう一つ、runtime access key が gateway 全体に効く、という話も気になりま
papoo.work