AIエージェントより「構造」で縛るほうが強い？ 仕様から作るバックプレッシャーの話
AI coding loop では、「プロンプトで守れ」は意外と弱い 代わりに、compiler や type checker のような機械が拒否する仕組みを入れると強い 元記事は、Shen という言語とコード生成で権限チェックを構造化する方法を紹介している 多段の証明チェーンで「認証済み」「tenant の member」「resource の所有確認」をつなげる テストは大事だが、書いたケースしか見られない。構造的な gate はもっと広く効く ただし、完全無敵ではなく、信頼境界や bypass の余地は残る AI にコードを書かせるとき、「もっと賢くなれ」より「間違えにくい土台を作れ」のほうが効く、という主張です。 これ、かなり筋がいいと思います。というのも、AI の性能をいくら上げても、最後に壊れるのはたいてい「うっかり忘れた権限チェック」みたいな地味な部分だからです。地味だけど、事故るとめちゃくちゃ痛い。そこを prompt の気合いで守るのは、正直かなり心もとないです。 元記事の冒頭は、かなり本質的です。 > 「あるユーザーが別の tenant のデ
papoo.work