#開発ツール

この記事を読んでいちばん引っかかったのは、AIが「明らかな悪意」には強くても、ばらばらに置かれた普通の文を自分でつなぎ合わせると途端に危うくなる、という点でした。 人間でも、別々の場所に書かれた指示を読み違えることはあります。ただ、AI coding agent はそこに加えて、tool result や tool description みたいな“信じてよい場所”をまたいで意味を組み立ててしまう。そこが怖い。悪い命令が一文で書かれていなくても成立してしまうなら、従来の「この文は怪しいから止める」という防御はかなり頼りないと思います。 面白いのは、これはモデルの賢さだけの話ではない、という書き方でした。同じモデルでも、どの client から使うかで挙動が変わる。つまり、危うさはモデル単体ではなく、周辺の安全設計にかなり依存している。ここはAI開発の現場で見落とされやすい気がします。つい「どのモデルが強いか」に話が寄りがちですが、実際には MCP のつなぎ方、tool の受け渡し方、human approval の置き方のほうが効いてくる場面があるんでしょう。 それと、記事のトーンが示

この記事を読んでまず思ったのは、これは「AIが賢くなった話」よりも、「人間の確認作業が思った以上に当てにならない」という話だな、ということだった。少し意地の悪い言い方に聞こえるけれど、本文のトーンもそこをかなりはっきり突いていて、そこに妙なリアリティがある。 Claude Code の auto mode をデフォルトに寄せる、というのは一見すると攻めた仕様変更に見える。でも記事を読むと、その判断の根拠が「人間が危ないコマンドを見逃すから」という話で、そこがちょっと怖い。普通は「自動実行は危ないから人間の承認を入れる」が自然に思えるのに、逆に classifier のほうが人間より危険な命令を拾える、という前提になっている。ここには、レビューや確認という行為への信仰がかなり揺らいでいる感じがある。 ただ、私はこの話を単純に「人間はダメ、AIはすごい」とは受け取れなかった。むしろ引っかかったのは、危険なものを止める役目を classifier に寄せたとき、どこまでを「危険」とみなすのかがどんどん重要になることだと思う。開発者が本当に見たいのは、見た目が危なそうなコマンドだけではなく、文

正直、最初に思ったのは「そこまでやるのか」という驚きだった。コードを書くAIの進化って、ついモデルの賢さや速度の話に目が行くけれど、この記事はもっと地味で、でも実務ではかなり効く方向に寄っている。別々のTerminalで動いているClaude同士が、手でコピペしなくても文脈を渡し合える。派手さはないけれど、こういう小さな摩擦の削減が一番ありがたい場面は多い。 面白いのは、Anthropicがここで「会話の全部」を共有させていないことだと思う。やり取りできるのはtextだけで、historyやfilesやpermissionsまでは渡らない。これは少し中途半端にも見えるけれど、むしろ現実的だとも感じた。AIエージェント同士をつなぐと、便利さと危うさがすぐ同居する。権限まで自由に飛んでいくと怖いし、ファイルや過去ログまで自動で共有されたら、気づかないうちに見せたくないものが広がりそうだ。その意味で、メッセージは通すが勝手な許可変更はさせない、という線引きはかなり妥当ではないかと思う。 一方で、これが本当に効くのは「複数セッションを同時に回す人」だけだろうとも思った。普通の人にとっては、まだ

この記事を読んでまず思ったのは、ツールが「正しそうに見える間違い」を平然と出す怖さが、かなり生々しく書かれているな、ということだった。しかも厄介なのは、単にバグを踏んだ話ではなく、調べた先の見え方そのものが誤解を誘う形になっていた点だと思う。 いちばん引っかかったのは、package rename が「存在しない package」と区別できないという話だ。version を見ているだけでは、まだ出ていないのか、名前が変わったのか分からない。言われてみれば当たり前なのに、実際にはその当たり前を見落としやすい。機械的な checker ほど、見つかった事実だけで断定してしまう危うさがあるんだなと思った。 もうひとつ印象に残ったのは、broken link の話だ。spec を参照しているつもりのリンクが、実は overview に飛ぶだけで、見た目には壊れていない。これはかなり嫌な失敗で、単に「リンクが切れている」よりタチが悪い。検証できる顔をしながら、実際には検証先が違う。こういうのは人間でも気づきにくいし、だからこそ test で縛るしかないのだろう。 ただ、ここで面白いのは「dete

Anthropicの「Claude Code」デスクトップ版に、Webブラウザーがそのまま入った。これ、地味に見えてかなり大きい変更だと思う。AIコーディングツールって、普段はターミナルやエディタの中で完結しがちだったのに、そこへ外部サイトやドキュメント、イシュートラッカーまで“同じ画面の中”で扱えるようになったわけだ。 デスクトップ版「Claude Code」に内蔵ブラウザーが追加された タブ付きで、ドキュメントや外部サイトを複数開いておける 既存のローカル開発サーバーを見るのと同じ感覚で、ページを読ませたりクリックさせたりできる 安全対策として、外部サイトでの操作には確認が入る ブラウザーのプロファイルは普段使いのブラウザーと分離され、ログイン情報や履歴は引き継がれない 今回のポイントは、「Claudeにコードを書かせる」だけでなく、「Claudeに画面を開かせて確認させる」流れが、アプリの中で完結しやすくなったことだ。 たとえば、仕様書を読みながら実装を進めたいとき。GitHub Issuesを見つつ、関連ドキュメントも見つつ、ローカルの開発画面も見つつ、という作業は普通にある。

GitHubで見つけた `deepclaude` は、ひとことで言うと「Claude Codeの見た目と操作感はそのままに、裏側のモデルだけを安いものへ差し替える」ためのツールです。 発想がかなり気持ちいいです。高い道具の“外側”はそのまま使って、頭脳だけ別のエンジンに載せ替える感じ。こういうやり方、地味だけど実用性が高いんですよね。 Claude Codeの自律的な開発ループを、そのまま使える 裏のモデルを DeepSeek V4 Pro、OpenRouter、Fireworks AI、Anthropic に切り替えられる 使い勝手はほぼ同じで、コストはかなり下げられる 端末上で動くプロキシがAPIを横取りして、バックエンドを差し替える仕組み 途中で再起動せず、セッション中にモデルを切り替えられる ただし画像入力やMCPなど、いくつか弱い部分もある 元記事の主張はわかりやすいです。Claude Code は「自律型のコーディングエージェント」としてかなり優秀だけれど、月額 $200 と高い。そこで `deepclaude` は、Claude Code の CLI やツールループ、ファ

Claude CodeのようなLLM向けツールで、長いテキストをそのまま送らず、画像に変換してからモデルに渡す仕組み 文字がぎゅっと詰まった内容ほど得をしやすく、場合によってはトークン使用量を大きく削減できる ただし万能ではなく、IDやハッシュのような“1文字でも間違えたら困る情報”は危ない だからこそ、安くなる場面と危ない場面を見極める設計になっている 発想はかなり攻めているが、実務の痛点をちゃんと突いていて面白い pxpipeは、ひとことで言うと「LLMに渡す長文を、必要に応じて画像に圧縮してしまうローカルProxy」です。Proxyというのは、アプリとAPIのあいだに入って通信を中継する仕組みのこと。ブラウザの世界でいう“中継サーバー”みたいなものだと思えば大きく外れていません。 普通、LLMにたくさんの文章を読ませると、そのぶんトークンが増えます。トークンは、AIが文章を扱うときの細かい単位で、課金やコンテキスト長の計算に使われます。つまり、長文を入れるほどお金も容量も食う。これは避けようがない、と思われがちです。 でも pxpipe はそこに逆張りをします。大量のテキストをP

AIに「コードを書いて」と頼むのが当たり前になってきました。便利です。かなり便利。でもSecurityWeekの記事が取り上げているのは、その便利さの裏で起きる、ちょっとぞっとする話です。 要するに、昔からあるBashの書き方を使うと、多くのオープンソースAIコーディングエージェントの防御をすり抜けられる、という指摘です。BashはLinuxやmacOSでよく使われるシェル、つまりコマンドを実行するための仕組みです。見た目はただの文字列でも、Bashに渡すと別の意味に変わることがある。この「変換」が曲者でした。 Adversa AIはこの問題を GuardFall と呼んでいます。私はこの名前、かなり本質を突いていると思います。AI側は「危ないコマンドは弾いたつもり」でも、実際に動く直前にBashが文字列をほどいてしまう。守ったはずの壁が、シェルの都合で崩れるわけです。 古いBashのテクニックで、AIエージェントの防御を回避できる場合がある Adversa AIはオープンソースのAIエージェント11種類を調べ、10種類で何らかの抜け穴を確認した 攻撃のきっかけは、RE