#nodejs

同じようなLLM呼び出しを毎回APIに投げると、当然そのぶん課金される 著者は `llm-cacher` というNode.js向けライブラリを作り、LLMレスポンスのキャッシュを試した ふつうの「完全一致キャッシュ」だけでなく、意味が近いプロンプトをまとめる semantic caching も扱う storageは `memory` / `file` / `SQLite` / `Redis` / `DynamoDB` などを選べる streaming response もキャッシュできるようにしているのが地味にすごい OpenAIやAnthropicのSDKを直接使いながら、フレームワークに寄りかからず導入できるのが売り この記事の出発点はとてもシンプルです。 「AIに同じような質問を何度もしていたら、請求額が思ったより高くなった」 という話。 これ、かなりあるあるだと思います。 開発中って、つい同じプロンプトを何回も投げますよね。文言は少し違っても、やっていることはほぼ同じ。しかもLLMは1回ごとに課金される。つまり、テストを重ねるほどお金が溶けるわけです。 著者は

著者は npmで公開された922個のMCP server を一斉に起動し、`initialize` と `tools/list` を投げて挙動を調査した 359個は正常応答、残り 563個は15種類の失敗パターン に分かれた 最も多かった失敗は 起動時に外部APIへ接続しにいって、そのまま返答しない ケース 認証情報がないとツール一覧を出せない サーバーも多く、READMEだけでは実態が見えない Windows特有の落とし穴として、`npx.cmd` の扱いと UTF-8の文字化け が重要だった この記事は、MCP server を作る人にとってかなり実践的な「地雷マップ」になっている MCPは Model Context Protocol の略で、ざっくり言うと「AIアシスタントが外部ツールと会話するための共通規格」です。 たとえば、ファイル操作、Slack送信、Googleサービス連携、Stripe操作みたいな機能を、AIが安全に呼び出せるようにする仕組みだと思えばOKです。 この記事が面白いのは、そのMCP serverを