この記事を読んでまず思ったのは、ツールの説明文って、こんなに攻撃面になるのかということでした。ふつう説明は「人間向けの補助」かと思いがちですが、MCPではその説明がそのまま model の context に入るので、ただの案内文では済まないんですよね。そこに「この tool を使う前に別の file を読め」「ユーザーには黙っていろ」みたいな文が混ざると、もう説明ではなく命令になる。言われてみれば当たり前なのに、実際に例を見るとかなりぞっとします。
特に引っかかったのは、これが単なる「悪い実装」ではなく、仕様の使い方そのものを突いてくるところです。description は本来、tool が何をするかを伝えるだけのはずなのに、model はそれを信じて行動してしまう。しかも user から見える確認画面に、全部の引数が出ないこともある。ここで初めて、「人間が許可したつもり」と「model が裏で運んだもの」がズレるわけです。UI の安心感がそのまま防御にはならない、というのが厄介だと思いました。
もう一つよかったのは、記事が「model が賢ければ防げる」とは言っていない点です。むしろ heuristic で怪しい description を拾い、CI で弾く、ユーザー側でも tool の説明変更を再確認する、といったかなり地味な対策に寄せている。派手な AI 安全論より、こういう運用の話のほうが現実的です。MCP を触るなら、tool の本文だけじゃなく description や annotation までコードとして扱わないといけない、という感覚を持たせてくれる記事でした。
参考: Tool poisoning in MCP, walked through with a lab you can run