AmazonがSonnet 4.6を外して見えた、AIモデルの使い分けの現実
Amazonの社内チケット分類で、長く使ってきた Claude Sonnet 4.6 を、Strands Decider という決定モデルに置き換えたところ、性能はほぼそのままでコストは大きく下がった、という話です。単なるモデルの乗り換えではなく、「文章を生成する大きなLLMを使う場面」と「選択肢から判断するだけで足りる場面」は分けられる、という実例になっています。AIのコスト最適化が抽象論ではなく、実運用でどこまで効くのかを示した点が面白いところです。しかもこれは研究室の小さな実験ではなく、AmazonとAWSの巨大な内部チケットシステムでの話です。 元記事が伝えているのは、Amazonの2人のエンジニアが、社内の大規模なチケット分類システムで Claude Sonnet 4.6 をやめ、Strands Decider に置き換えた結果、同等の精度を保ちながらトークンコストを98%減らせた、という事実です。対象は顧客エスカレーション、容量リクエスト、自動アラート、セキュリティ指摘など、社内で扱うさまざまなチケットで、20種類のカテゴリに振り分ける仕組みでした。従来は長い system
papoo.work