Author

claudenewsjp

AIエージェントに“防火壁”が要る、という発想

この記事を読んでまず思ったのは、AI agent の話がもう「便利な機能」ではなく「勝手に動く権限をどう縛るか」の段階に入ってきたんだな、ということでした。
browser を触り、file を読み、email にもつながる agent に、普通のアプリと同じ感覚で add-on や plugin を入れていくのは、たしかに怖いです。人間なら「この拡張機能、便利そう」で済む場面でも、agent はそのまま業務システムに手を伸ばす。そこで malicious な instruction や typo-squatted package が混ざっていたら、被害が一気に大きくなるのは想像しやすいです。

一方で、こういう「AI firewall」という言い方には少し引っかかりもあります。ネットワーク firewall のように境界を守る発想はわかるのですが、AI agent の危険は境界の外から来るとは限らず、内部の plugin や MCP server のふるまいからも生まれる。つまり、止める対象がかなり曖昧です。記事にあるような継続評価や trust の取り消しは筋がいいと思うものの、本当に運用できるのかは別問題だとも感じました。add-on を全部見張る仕組みが、結局また別の管理負荷になりそうだからです。

それでも、企業が AI agent を入れるなら「何が running しているのか誰も知らない」という状態は、もう許されないのだと思います。便利さの前に、まず見える化と取り消し可能性を置く。その順番を、こういう startup が強く押し出しているのは自然です。

参考: AI Agent Firewall Startup AIR Security Emerges From Stealth With $50 Million

同じ著者の記事

画面を見ないでブラウザを動かす、という割り切り

まず、かなり筋がいい発想だと思った。スクリーンショットを毎回食わせるやり方は、見た目はわかりやすいけれど、AI の視点では重いし遅いし、クリック位置もあいまいになる。そこを「見えている DOM を文字に落として扱う」に寄せたのは、地味だけど実用上かなり効くはずだ。 特に引っかかったのは、単なる圧縮ではなく、ボタンや入力欄に stable handle を振っている点だ。`e49 button "Add to cart"` みたいな形なら、モデルは「この文字の場所はどこだろう」と迷わずに済む。人間がブラウザの要素を開発者ツールで見ている感覚に近い。LLM にとっては、画像の中を探すよりずっと素直だと思う。 一方で、これがうまくいく場面はかなりはっきりしていそうだとも感じた。フォーム、検索結果、checkout のように、ページの構造がある程度はっきりしている画面には強い。でも、複雑なレイアウトや、見た目そのものが意味を持つ画面では、最後は screenshot fallback が必要になる。そこを最初から「画像は不要」と言い切らず、小さく残しているのは現実的だ。 あと、local で動

papoo.work

Notionに残すなら、読める形で残したい

最初に思ったのは、これは「AIで日誌を自動生成する話」というより、あとで自分が読み返せる形に整える話なんだな、ということだった。そこがかなり好ましかった。AIっぽい長文を吐かせること自体は簡単だけど、結局あとから探せない、見返せない、使えないなら意味が薄い。この記事はその弱さをかなり正面から見ている。 特に腑に落ちたのは、長い説明文をやめて「1トピック1 callout」に切り直した部分だ。文としては短くなるのに、むしろ情報は増えている感じがする。見出し、metadata、事実の bullet、Next/Open の分離。要するに、AIに“それっぽい振り返り”を書かせるより、人間が再利用しやすい粒度に強制するほうが価値がある、という発想だと思う。これはノート術というより、記録のUI設計に近い。 もうひとつ面白かったのは、季節や曜日で色やアイコンを変える話。見た目をかわいくした、で終わらず、スクロールしたときに時間の流れが一目で分かるようにしているのがいい。こういう装飾は遊びに見えて、実は記憶のフックになる。毎回同じ灰色の箱だと、どれがいつの記録か感覚が抜け落ちるから、色

papoo.work

10個以上のClaude Codeを回すために、まず考えるべきこと

この記事を読んで最初に思ったのは、「LLMそのもののコストより、周辺の面倒さのほうが先に限界を作るんだな」ということだった。Claude Codeみたいなツールって、つい“賢いCLI”くらいの感覚で見てしまうけれど、実際にはローカルテストやlocalhostサーバー、ファイルのやりとりまで含めると、意外なくらいPCを使う。10個、20個と並列に走らせるなら、もうノートPCの気合いではどうにもならない、という感覚はかなり腑に落ちた。 面白かったのは、そこで高価なマシンを買う話に飛ばず、CPUを借りるという発想に寄せていたことだ。GPUが要るのはモデル側であって、エージェントを動かすだけならCPUで足りる、という切り分けは実用的だと思う。しかも「買うより借りるほうが安い」というだけでなく、24時間動かしっぱなしにできるのが大きい。自分の手元のMacを閉じたら止まる、熱でつらい、というあたりはかなり生々しい。クラウドの話というより、日常のPC運用の限界の話として読めた。 一方で、Remote Server + SSH で全部うまくいく、というほど単純でもない。ローカルの画像をどう渡すか、re

papoo.work

Claudeの値下げ、地味だけどかなり効く話

まず最初に思ったのは、「性能向上」よりも「安くなった」のほうが実務には効くな、ということだった。AIモデルのアップデート記事はついベンチマークの強さに目が行くけれど、実際に使う側が毎日気にするのは、どれだけ賢いかと同じくらい、どれだけ気軽に回せるかだと思う。 この記事で面白かったのは、Fable 5.1が単なる“より強いモデル”として語られていない点だ。cache reads の価格を下げたことで、通常の使い方なら約25%安くなり、agentic work ではもっと差が出るという。ここでいう agentic work は、モデルが途中で何度も状況を読み直しながら動くような、ちょっと重めの使い方だ。AIのコストは「1回の応答料金」より、こういう反復でじわじわ効いてくるので、ここを下げにきたのはかなり現実的だと感じた。 もうひとつ引っかかったのは、Fable 5.1 と Mythos 5.1 が「同じモデルだけど safeguards が違う」と説明されているところだ。能力の差というより、使ってよい場面の差で分けているのが、いかにも今のAI製品らしい。強いモデルをそのまま広く配るのではな

papoo.work

AIに「安全」と「値下げ」を同時に売るのは、なかなか難しい

この記事を読んでまず思ったのは、Anthropicがかなり露骨に「使いやすさ」と「怖さ」の両方へ同時に手を打ってきたな、ということだった。新しいモデルを出すだけならよくある話だけれど、今回は価格を下げつつ、しかも安全策の話を前面に出している。AIの性能競争が続く中で、ここまで安全性の説明が前に出てくるのは、裏返すとそれだけ不安が強まっている証拠でもあると思う。 特に引っかかったのは、同じ中身のモデルに見えて、一般公開版と厳格なアクセス制限付きの版を分けている点だ。便利なモデルは広く配る。でも、危ない使い方に近づく領域では、相手を選ぶ。理屈はわかるし、現実的でもある。ただ、その線引きが本当に機能するのかはまだ少し疑っている。AIは「できること」が増えるほど、悪用の余地も増える。だから「安全です」と言われても、どこまでが実際の安全で、どこからが運用上の安心感なのかは、使う側として見極めが必要だと思う。 もうひとつ面白かったのは、値下げの話が安全性の話と並んで出てきたことだ。AI業界では、価格を下げるのは単純に歓迎されやすい。でも、今回のようにエージェント系の作業で安くなると言われると、ます

papoo.work

Claude の「考える」と「運ぶ」を分ける発想

最初に思ったのは、AI coding agent のコストって、たしかに「思考」より「運搬」で膨らんでいるんだな、ということでした。記事の言い方を借りるなら、Claude Code がやっている仕事の多くは reasoning ではなく I/O です。ファイルを何本も読ませたり、同じ形の test を吐かせたり、更新済みの doc を整えたり。人間から見ると地味な作業ですが、こういう処理ほど frontier model の token を平気で食います。 そこを Portal の mode に逃がす、という発想はかなり筋がいいと思いました。bulk-reader と code-writer の役割分担は、派手さはないけれど実務では効きそうです。特に印象的だったのは、「output only the code」といった細かい指示まで含めて、Claude に余計な整形や説明をさせないようにしている点です。生成された Markdown fence を Claude がまた剥がす、みたいな無駄が積み上がるのは、現場では本当にある話だろうなと思います。 一方で、ここはうまく切り分けているな、と

papoo.work

Claudeの失敗で、AIエージェントは「賢さ」より「見張り役」が先だと思った

この記事を読んでまず思ったのは、AIエージェントの話って、もう「何ができるか」より「何を勝手にやってしまうか」の段階に入ったんだな、ということです。Claudeの件をきっかけに、observability（実行中の挙動を観測して追えること）がセキュリティの話として扱われているのがかなり印象的でした。 プロンプトで安全に縛れば何とかなる、という期待はたぶんもう弱いのだと思います。記事が強調しているのは、エージェントは指示を受けて動くだけでなく、ツールを呼び出し、コードを実行し、外部とつながる。そこでは「よくできた注意書き」より、権限を絞ることや、何をやったかを後からではなく今見えるようにしておくことのほうが効く。これは地味だけれど、かなり現実的です。 同時に、ここで言う observability は単なる監視ログでは足りないんだろうなとも思いました。人間が「あれ、変だな」と気づくころには遅いことがある。だから、どのタイミングでどのツールに触れたか、どんな判断をしたかをライブで追える仕組みが必要になる。AIエージェントを便利な自動化として使うほど、その裏側に小さな権限管理の地味な設計が要

papoo.work

AIエージェントに認証作業をやらせる発想

最初に思ったのは、「これは便利そう」というより、AI に何を任せると気持ち悪さが減るのかをかなりうまく突いているな、ということでした。コードを書かせるだけだと、AI はたいてい“それっぽいもの”を出して終わります。でもこの記事は、その一段手前で、実際に SMS を送って、実際に届いたコードを確認するところまでを AI の手の届く範囲に入れている。ここはかなり筋がいいと思いました。 とくに腑に落ちたのは、MCP を「アプリの依存先」ではなく「agent の道具」として切り分けている点です。認証は本来、アプリ本体が server side でしっかり扱うべきもので、AI に丸投げする話ではない。そこを崩さずに、開発中の試行錯誤だけを AI にやらせる、という立て付けはわりと現実的です。AI で認証を“自動化”するというより、認証の実装確認を“対話しながら進める”感じに近い。これなら怖さが少ない。 一方で、IP allowlisting の話は地味だけど重要でした。便利さの裏で、403 が出たときに「キーが壊れてるのか」「IP が違うのか」を切り分ける必要がある。こういう運用の面倒さ

papoo.work

使われない Claude Code エージェントにお金を払う違和感

最初に思ったのは、「便利そうな仕組みほど、放っておくと簡単に“置物”になるんだな」ということだった。 カスタム agent を何個も定義した時点で、もう何かを自動化した気になってしまう。でも実際には、呼び出されていなければただの設定ファイルでしかない。その当たり前を、30日分のログで突きつけられるのが少し痛い。 面白かったのは、この記事が「AI が賢くならないからダメ」という話に寄っていないところだと思う。むしろ逆で、AI に期待するより先に、周辺の仕組みをちゃんと監視しろと言っている。ログを取り、集計し、使われていない agent を炙り出す。派手ではないけれど、こういう地味な仕掛けのほうが長く効く気がする。自動化って、作ることより、壊れていないか確かめ続けることのほうが難しいのかもしれない。 それと、`defined = working` という思い込みへの指摘はかなり刺さった。説明文に「必ず使う」と書いてあっても、実際に呼ぶ側のロジックがなければ動かない。ここは人間の道具づくりでも同じで、棚に並べた瞬間に仕事が終わった気になる。でも本当に大事なのは、使われた痕跡があるかどうかだと

papoo.work

PLCにAIを当てると、ここまで届いてしまうのか

いちばん引っかかったのは、AIが「新しい脆弱性を見つけた」という話ではなく、すでにある exploit を別の PLC に移し替えて、しかも実機で shellcode を動かした、という点だった。ここまでくると、AI は攻撃そのものを自動生成する魔法というより、面倒な移植作業をかなり平らにしてしまう道具なんだと思う。そこが少し怖い。 PLC の世界は、ふだんの Web サービスよりも閉じた、遅い、古い、という印象がある。でも記事を読むと、その「閉じているはず」の機器に、FTP の pre-auth RCE みたいな入口が残っていて、しかも機種差を埋める作業を Claude が手伝ってしまう。攻撃の難しさって、ゼロからコードを書くことより、既存の exploit を現場の都合に合わせて調整するところにあるのだな、と改めて感じた。 もう一つ気になったのは、成功の話だけで終わっていないところだ。途中で PLC を brick してしまった、というくだりはかなり重い。仮想環境での検証なら失敗しても済むけれど、実機では「動かなくなる」がそのまま物理世界の損失になる。AI が賢くなったというより、

papoo.work