#python

What jumped out at me here is not that prompt caching can be expensive when you misuse it. It’s that it can look like it’s working while quietly being almost useless. A 78% hit rate sounds decent until you realize the shape of the remaining misses can make the whole thing much pricier than if you had left caching off. That’s the part I’d actually want to know in my own logs: not “is caching enabled?” but “what is the prefix, byte for byte, and who changed it?” The timestamp bug is the obvious ca

まず思ったのは、「こういう事故、ほんとうに見つけにくい」ということだった。 キャッシュが効いているかどうかって、普通はレスポンスの速さだけ見ていると分からない。速くても、実は毎回“書き込み”料金を払っているだけかもしれない。この記事はその嫌な盲点を、かなり生々しく見せていた。 いちばん刺さったのは、原因が派手なバグではなく、`datetime.now()` みたいな“ちょっと便利な実装”だった点だ。 人間の感覚だと、会話の進行を助けるために現在時刻を入れるのは自然に見える。でも prompt caching みたいに「先頭部分が完全一致しないと外れる」仕組みでは、マイクロ秒つきの timestamp ひとつで毎回別物になる。ここは本当に容赦がない。キャッシュって、賢そうに見えて実際はかなり機械的なんだなと思った。 もうひとつ面白かったのは、`set` の順序問題で 4 worker 分の prefix がズレるくだりだ。 ローカルでは通るのに本番でだけ hit rate が伸びない、というのはかなりいやらしい。しかも Python の hash randomization が絡むと、見

What jumps out here isn’t the bug itself so much as the shape of it. An official SDK for an authentication-heavy protocol let a server redirect an OAuth exchange to a place it shouldn’t trust. That’s the kind of mistake that looks small in code and huge in blast radius. If I were evaluating MCP client integrations right now, I’d be less interested in the CVSS number and more interested in whether any app I care about ever assumes “the server told me where to log in” is a safe sentence. The annoy

いま話題になっている「Jev」を、25行のPythonで再現してみせる──そんな短いデモを軸にした記事が出ています。元記事は、派手な紹介文というより、わざと肩の力を抜いたパロディとして書かれていて、流行のAI手法に対する距離感がよく見えます。面白いのは、そこで示される中身が難しい理論ではなく、「入力された選択肢に確率を付けるだけ」のかなり素朴な仕組みだという点です。これがどういう軽さで、何を皮肉っているのかを、元記事を読んでいない人向けに整理しつつ、こちらの見方も含めて読んでいきます。 元記事は、「Everyone and their mom is talking about Jev」と始めて、JevがAI界隈で大げさに語られていることをからかいます。そのうえで、「25 lines of Python」で実装したと称する短いコードを見せますが、やっていることはかなり単純です。Python 3.12 を前提にして、`huggingface-hub`、`llama-cpp-python`、`numpy` を使い、`Qwen/Qwen3-0.6B-GGUF` の `Qwen3-0.6B-Q8

Cloudflare が、Workers 上で Python を本格運用できる「Python Workers」を一般提供に切り替えました。これまでも試せはしたものの、今回は「実験」から「正式な選択肢」へ格上げされた形です。TypeScript だけでなく Python でも、Cloudflare のエッジ実行基盤にそのまま乗せられるようになったのが大きい。しかも D1、R2、Workers AI など周辺サービスとも JavaScript の接着コードなしでつなげる、と Cloudflare は強く打ち出しています。 元記事が伝えているのは、Cloudflare が Python Workers を generally available、つまり一般提供にしたという発表だ。Python Workers は、Cloudflare Workers の実行環境の中で Python アプリを動かす仕組みで、Cloudflare によれば、これで Python は Developer Platform の「first-class」、つまり最初からきちんと支える言語になった。単に Python が

AIアプリ向けの周辺コードは、便利になるほど太りやすい。ルーティング、proxy、cache、課金計測、各社SDKの差分吸収まで抱え込むと、使いたい人には少し重い。GitHubに公開された `kennethwolters/litelm` は、その「重さ」を削ること自体を目的にしたプロジェクトだ。元記事は、LiteLLMの機能をかなり絞り込み、どこを残し、どこを捨てたのかをはっきり示している。単なる軽量化の話ではなく、LLM周辺ツールに何を求めるかを問い直す内容でもある。 `litelm` は、名前の通り LiteLLM に似たAPIを持ちながら、機能をかなり削った実装として紹介されている。説明文では「litellm without the bloat」とあり、LiteLLMの routing と translation を中心に、約2,900行、依存関係は `openai` と `httpx` の2つだけだと強調している。LiteLLM側は、複数プロバイダへのLLMルーティングやメッセージ形式の変換を担う一方で、proxy server、cache、cost tracking なども抱

この記事を読んでまず気持ちよかったのは、「競合したら後で頑張ってさばく」のではなく、最初からサーバーを起動させないという考え方がはっきりしているところです。 これ、地味だけれど運用ではかなり効く発想だと思いました。実行時にたまたま先に登録された方が勝つ、みたいな挙動はたしかに便利そうに見える。でもその便利さって、裏返すと「設定を少し並べ替えただけで別物になる」危うさでもあるんですよね。 特に引っかかったのは、extension の method 名をただの内部実装ではなく、公開契約として扱っている点です。`tools/list` みたいな core の method を extension が奪えない、同じ vendor method を複数の extension が名乗れない、という線引きはかなり強い。ここを曖昧にすると、あとから調べる人は「なぜこの handler が選ばれたのか」をコード順や読み込み順まで追いかける羽目になる。そういう事故を、起動時の `ValueError` で止めるのは実務っぽくて好ましいです。 もう一つ面白かったのは、空の `protocol

What I actually like here is the refusal to treat collisions as some exotic runtime bug. That instinct is right. If two extensions can claim the same method, or if an extension can shadow a core MCP method, you do not have a cute dispatch problem — you have a configuration error that should blow up immediately. Anything else makes startup order part of your application logic, which is the sort of hidden behavior that comes back to bite you later. That said, the piece also reads a bit like it is

この記事を読んでまず思ったのは、「これ、最初は便利で、あとからじわじわ効いてくるやつだ」 ということだった。ひとつの process に全部乗せる設計は、動かし始めるだけなら本当に楽だ。関数呼び出しで済むし、ローカルで試すのも簡単だし、見た目もすっきりする。だからこそ、分割の話はつい後回しになる。でも、著者が描いているのは、その“楽さ”が少しずつ借金になる瞬間なんだと思う。 特に刺さったのは、問題が「コードの結合」ではなく「実行環境の結合」にまで広がっている ところだった。Python の中でモジュールを import してつないでいるだけ、と思っていても、実際には dependency の衝突やメモリの食い合い、再デプロイの巻き込みまで一緒に抱え込む。ここは地味だけど重い。しかも厄介なのは、開発初期にはその痛みが見えにくいことだと思う。デモでは動くし、最初の数機能なら十分だからだ。記事のトーンはかなり実務寄りで、その「あとで壊れる」感じに覚えがある人ほど、うなずく部分が多いはずだ。 もうひとつ印象に残ったのは、MCP を持ち上げすぎていないことだ。著者は、境界が大事な

Austin Z. Henley が、Cで「Pythonのごく一部」を 1024バイトに収める実験を公開した。狙っているのは、CPythonのような本格実装ではなく、見た目がPythonらしく振る舞う最小限のインタプリタだ。しかも今回は、コードゴルフの技巧をただ見せたいのではなく、どう削ればここまで小さくできるのかを、途中で何度も失敗しながら追っているのが面白い。完成物は短い。だが、その短さに行き着くまでの割り切り方はかなり過激だ。 Henley は週末に手でコードを書くと「人間に戻れる」と書いたうえで、512バイトか1024バイトのCコードでPythonインタプリタを作る挑戦を始めた。もちろん、本物のPython全部は入らない。そこで彼が考えたのは、「Pythonっぽく見える最小構成は何か」を選び抜くことだった。例として最初に挙げたのは FizzBuzz で、`def`、コロン、インデント、`if` に括弧がない書き方など、見た目がPythonそのものに見える断片を確認していく。 最初の試みは512バイトを目指したが、すぐに無理だと分かった。式を足し算できるようにし、変数代入を入れ、

Polarsが2.0のリリース候補版を出しました。データ分析ライブラリのメジャーバージョン更新というと、新機能の盛り込みを想像しがちですが、今回の主眼はむしろ逆で、既定値の見直しとAPIの整理です。特にLazyFrameの処理が標準で streaming engine に乗るようになる点は、使い方によってはかなり効きます。表向きは“boring”な更新でも、実際には日々のメモリ使用量や速度、そして失敗の見つけやすさを変える話です。 Polars 2.0の一番大きな変更は、LazyFrame で collect() したときの既定エンジンが streaming engine になることです。これまでのように全部をメモリに載せる前提ではなく、流しながら処理するので、多くのクエリでメモリ使用量と性能が大きく改善する、と説明されています。投稿では、集計すると全体として streaming engine は簡単に 5倍速くなると見込んでいます。 ただし、ここには代償もあります。join、group_by、unpivot などの操作では、結果の行順が以前のように保証されません。行の順番まで観測した

Rust で書かれた Python パッケージマネージャー `uv` に、キャッシュの中身をファイル単位で重複排除する変更が入った。見た目は地味だが、配布物の置き場をかなり節約できるうえ、インストール時の体感速度を大きく壊していないのが面白い。しかも対象は、単に「同じ wheel を別の場所から落としたとき」ではない。wheel の中に入っている個々のファイルまで踏み込んでいる。キャッシュの設計を少しだけ賢くする、というより、かなり本気で整理し直した内容だ。 元記事は、`astral-sh/uv` の pull request #21327 について説明している。`uv` ではすでに content-addressed caching、つまり内容でキャッシュを識別する仕組みを wheel 単位では使っていた。たとえば同じ wheel を別の配布元から2回ダウンロードしても、キャッシュ上は同じものとして扱える。ただし、それはあくまで wheel 全体の話で、中に入っているファイル同士、あるいは別 wheel にまたがる同じ内容のファイルまでは重複排除されていなかった。 この PR ではそ

Anthropic の Claude Code にある Auto Mode をめぐって、かなり嫌な実験結果が出た。見た目はただのサイト要約なのに、工夫された入力を通すと、Claude Code Opus 5 が攻撃者の用意した流れに引き込まれ、最終的にコード実行まで進んでしまうという話だ。しかも著者は、少数の試行ながら 60〜80% という攻撃成功率を観測している。この記事が面白いのは、外部評価で「0.00%」とされた同じ Auto Mode を、別の攻め方で揺さぶっている点にある。つまり、モデルの賢さだけではなく、周辺の運用や実行環境をどう切り分けるかが本当に問われている。 著者が試したのは、Claude Code Opus 5 の Auto Mode が有効な状態で、特定のWebサイトを要約させる単純なタスクだった。入力は「Summarize https://archive.<redacted>.uk/」のような形で、サイトは一見するとノートや記録のアーカイブに見える。だが実体はZIPアーカイブで、そこに攻撃用の仕掛けが埋め込まれていた。 最初の狙いは、Claude を WebFe

OpenAIのPython SDKが、内部のHTTPクライアントをHTTPX2へ切り替えた。ふだんはSDKの上だけを触っている人には地味に見えるが、TLS証明書、プロキシ、モック、型注釈のあたりで挙動が変わるので、実運用では無視できない。しかも今回は「そのまま動く部分」と「移行が必要な部分」がかなりはっきり分かれている。公式ドキュメントとしては珍しく、互換性を保ちながらも、古い前提を少しずつ切り替えていく姿がよく見える内容だ。 元記事は、OpenAI Python SDKが同期・非同期のHTTPクライアントにHTTPX2を使うようになったと説明している。HTTPX2は`openai`と一緒に自動で入るが、以前の`httpx`パッケージはもう同梱されない。つまり、SDKを普通に使うだけなら、特別な追加インストールは必要ない。`OpenAI`や`AsyncOpenAI`を`http_client`なしで作る、いわゆるデフォルトの使い方では、既存のAPI呼び出し、レスポンスのパース、streaming、認証、リトライ、数値で指定するtimeoutはそのまま動く、と明記されている。 一方で、以

Pythonの「サプライチェーンセキュリティ」は、自分が書いたコードだけでなく、依存している外部パッケージまで安全かを考える話。 元記事のタイトルからは、「Pythonのサプライチェーンセキュリティで起きる8つのこと」がテーマだとわかる。 ただし、今回取得できた本文は `Reddit - Please wait for verification` のみで、元記事の中身は確認できなかった。 そのため、この記事ではタイトルから読み取れる文脈と、一般的なサプライチェーンセキュリティの重要性をわかりやすく整理する。 このテーマは地味に見えて、実はかなり重要。「便利だから入れたライブラリ」が、あとで大問題になることがある。 今回の元記事は、Reddit 上の投稿で、タイトルは 「Python supply chain security: 8 things that happen」 というものです。 ただ、実際に取得できた本文は「Please wait for verification」となっていて、肝心の内容までは読めませんでした。ここはちょっとも

画像に入る見える透かしと、裏に仕込まれる見えない水印の両方を対象にしたツール Google Gemini / Nano Banana のキラキラロゴ除去をうたっているのが目立つ SynthID、C2PA、EXIF などのメタデータや埋め込み情報も取り除く設計 CLI と library の両方があり、コマンドラインで一括処理できる ただし、これはかなりセンシティブな領域で、便利さと悪用リスクが表裏一体だと感じる GitHub で公開されている `wiltodelta/remove-ai-watermarks` は、AI生成画像に入る「ウォーターマーク」を取り除くための CLI（コマンドで使う道具） と library（プログラムから呼び出す部品） です。 ここでいうウォーターマークは、いわゆる右下のロゴみたいな見える印だけではありません。 この記事の元ページでは、次のようなものまで対象にしています。 visible watermark 目で見える透かし。例: Gemini / Nano Banana のキラ

既製のデータセットが見つからないなら、自分で作るしかない InstagramとPinterestを使って、自然なポーズ画像を集めた データは「場所」と「構図」で厳密に分類した MediaPipeで骨格推定を使い、手作業のラベル付けを自動化した albumentationsでデータを増やしたが、左右反転ではラベル修正が必要だった きれいなデータは、派手なモデルよりずっと大事だと実感できる内容 今回紹介するのは、「データセットがないなら、作ればいいじゃない」という、かなり実践的で気合いの入ったAI開発の話です。 元記事の著者は、ユーザーの背景に合わせて「この場所ならこのポーズが合うよ」と提案するAI、いわば Pose Suggester を作ろうとしました。 たとえばカフェ、公園、街中のような背景を見て、画面上に2Dの棒人間みたいな骨格を重ねて、自然なポーズのヒントを出す仕組みです。 で、ここが面白いところなんですが――こういう用途にぴったりな公開データセットが、見つからなかったんですね。 KaggleやHugging Faceに「ほら、はいどうぞ」と置いてあると思いきや、そう都合

Python 3.15と聞くと、つい大きな話題——たとえば lazy imports や tachyon profiler ——に目が行きがちです。 でも今回紹介する記事は、その“見出しになりにくいけれど実は面白い”変更にフォーカスしています。 正直、こういう記事はかなり好きです。派手な新機能よりも、日々の開発で「うわ、これ地味に助かる…」となる改善のほうが、実務では効いたりするからです。この記事もまさにそのタイプでした。 `asyncio.TaskGroup.cancel()` で、TaskGroup をきれいに止めやすくなる `ContextDecorator` が async 関数や generator でも、より自然に使えるようになる `threading.serialize_iterator` などで iterator をスレッド安全に扱いやすくなる `Counter` に XOR `^` が追加される `json.loads()` で `frozendict` や `tuple` を使い、immutable な JSON 表現を作りやすくなる 記事では、Python 3.1

CUDAを学びたいと思ったとき、まず困るのが「で、どの本を読めばいいの？」問題です。 このGitHubリポジトリ awesome-cuda-books は、その悩みにかなり真っ向から答えてくれる「CUDA本のおすすめ一覧」です。 GPUプログラミングは、普通のC++やPythonとは少し勝手が違います。 CPUが「順番にコツコツ処理する」のが得意なのに対して、GPUは「同時にたくさん処理する」のが得意。 この違いをうまく使えると、画像処理、科学計算、機械学習の一部などで大きな高速化が狙えます。 ただし、学び方を間違えると「用語が多すぎて何が何だか…」となりがち。そこを本リストが助けてくれます。 CUDA学習向けの本を、初心者〜上級者まで段階別に整理している C++中心の本だけでなく、Python向けのCUDA本も載っている 「理論」だけでなく、実践・最適化・デバッグ寄りの本もある 2022〜2026年の比較的新しい本も拾っていて、古い情報だけに偏っていない ただし、CUDAは変化が速いので、本だけで完結しないのが重要 公式のCUDA C++ Programming Gu

AIをセキュリティ調査にそのまま使うと、本物っぽい誤情報を平気で出すことがある 失敗の原因は、LLMが「もっともらしい答え」を作るのが得意すぎること ふつうの ReAct ループでは、モデルがツール結果を予測してしまい、後から現実に合わせにくい Anthropic の native tool use API では、ツール呼び出しと結果の受け渡しを構造化でき、幻覚をかなり抑えられる 著者はこれを使って、ターミナルから OSINT 調査を回すオープンソースエージェント OpenOSINT を作った 「全部自動化」よりも、状況に応じて次の調査を選べるエージェントのほうが実用的、という主張が面白い この記事の出発点はかなり衝撃的です。著者が以前使った AI の OSINT（Open Source Intelligence）ツールは、調査結果としてこんなものを出したそうです。 Twitter: @targethandle GitHub: https://github.com/megadose/holehe IP Address: 80.249.165.11

forge は、self-hosted（自前運用）LLM に対して tool-calling を安定して使わせるための Python framework ただのラッパーではなく、retry / rescue parsing / step enforcement などの guardrails（安全な補助線） を持つ WorkflowRunner、Guardrails middleware、Proxy server の3つの使い方がある Ollama、llama-server、Llamafile、Anthropic に対応 著者は、小さめのローカルモデルでも multi-step agentic workflow をかなり実用に近づけたい、というかなり実戦的な思想で作っている 評価では、トップの self-hosted 構成が 86.5%、難しいケースでも 76% を達成しているとされる 最近のLLM開発では、「ただ文章を返す」よりも、ツールを呼び出しながら段階的に仕事を進める使い方が主流になってきまし

Semble は、AIエージェント向けに作られた code search ライブラリ `grep + read` より 約98%少ない token で必要なコード断片を返す フルコードベースの index と search を 1秒未満 でこなせるとされている CPUだけで動く、API key不要、GPU不要、外部サービス不要という手軽さが強い MCP server や `AGENTS.md` を使って、Claude Code や Cursor などの agent から使える ふつうの文字列検索ではなく、自然言語で「何をしているコードか」を探せるのが面白い GitHubで公開されている Semble は、ひとことで言うと「AIエージェントのためのコード検索エンジン」です。 ここでいう AIエージェントは、Claude Code や Cursor、Codex みたいに、コードを読んで修正案を考えたり、関連箇所を探したりする“賢い開発アシスタント”のことです。 こういうエージェントにとって、いちばん地味だけど重要なのが **どこに目的

手作業でやっていた「ニュースソース追加」を、月1回の自動処理に置き換えた まず Firecrawl でランキングページをきれいな Markdown に変換する OpenRouter の無料で使える複数の LLM を順番に試し、ニュースサイトのURLを抽出する さらに web_search ツールでURLの妥当性を確認し、壊れたURLや誤検出を減らす 生成した YAML を重複チェックしたうえで保存し、GitHub Actions が PR を自動作成する マージ後は既存の CI が検証・反映まで行い、ライブダッシュボードにすぐ表示される この記事は、`Source Score` というマイクロサービスの開発を続けている筆者が、「ニュースソースの追加」を自動化した記録です。 最初は、ソースはたった5件を手で追加して動作確認していたそうです。まあ、最初の一歩としてはすごく自然です。システムを作るとき、最初から完璧に自動化しようとすると逆に進まないので、まずは人力で土台を作るのはよくあるやり方です。 でも問題は、その先です。 世界中の主要ニュースサイトを定期的に取り込みたいのに、毎回手作業で