#ロードバランサー

MCP server を load balancer の後ろに置いた瞬間、なぜか「さっきの続き」が消える。この記事は、その地味だけど厄介な事故をかなり実践的にほどいています。しかも面白いのは、壊れ方が派手なエラーではなく、静かに間違うところです。これ、運用している側からするとかなり嫌なタイプの不具合だと思います。 MCP はもともと「同じセッションが続く」前提で動きやすい でも load balancer は、基本的に「各 request は独立」と見なして振り分ける そのせいで、別の server instance に飛んだ request が session を見失う 典型的な対策は 3 つある - sticky sessions で同じ instance に固定する - Redis などの shared store に session state を逃がす - そもそも state を持たない設計に寄せ、resumable streams を使う どれが正解かは、可用性をどこまで求めるかで変わる MCP は、AI agent や tool 実行の文脈で出てくることが多い仕