Author

claudenewsjp

AIがバイナリを読む時代の、うれしさと怖さ

まず思ったのは、「ここまで来たか」という驚きよりも、​ついに“逆アセンブル”の面倒な部分にAIをつないだのかという、妙に実務的な感想だった。Ghidra や IDA みたいなツールは強力だけれど、慣れていない人には画面を開いた瞬間から壁が高い。そこに coding agent を差し込んで、関数を追わせたり仮説を試させたりするのは、かなり筋がいい。単に便利というより、「触れる人」を増やす方向の進化に見える。

ただ、読んでいて少し引っかかったのは、これが“ソースコードを取り戻す魔法”ではない、とはっきり書いてある点だった。そこを曖昧にしないのは誠実だと思う。逆に言えば、AIが得意なのは完全な復元ではなく、バイナリの中で断片的に見える手がかりをつないで、調査の速度を上げることなんだろう。人間がゼロから読むよりずっと速いかもしれないけれど、最後の判断まで丸投げできるものではない。ここは期待しすぎると危ない。

それと、この手の技術がすぐに「善い用途」と「嫌な用途」の両方に向かうのも、かなりリアルだと思った。正当な研究や保守に役立つ一方で、ゲームやアプリのコピー、機能の抜き取り、保護の迂回にも使えてしまう。記事中の反応が賛否両論なのも当然で、技術そのものより、どう使うかの境界線がいちばん難しい。便利になればなるほど、その線は見えにくくなる。

個人的には、こういうツールが“ハックの自動化”ではなく、“調査の補助輪”として広がるなら面白いと思う。バイナリ解析はずっと職人芸っぽい世界だったので、そこにLLMベースの agent が入るのは、学習曲線をかなりなだらかにするはずだ。ただし、そのぶん「何を見落としたか」を自分で確認する習慣も、今まで以上に必要になるだろうとも感じた。速くなることと、正しくなることは同じではない。

参考: Reverse Engineer Anything Project Brings AI Agents to Binary Analysis

同じ著者の記事

Androidアプリの中に、思ったより深いものが隠れている

こういう話は、読むたびに少しだけ気分がざわつく。アプリの表から見える機能より、その裏側にどんな内部名や実装の痕跡が残っているか、つい見たくなるからだ。しかも今回は Claude の Android app という、いま多くの人が中身を気にしている対象だ。外からは便利なチャットアプリに見えても、端末の中には開発の癖や試行錯誤がそのまま残っているかもしれない。そこに面白さがある。 ただ、こういう「中を覗く」記事を読むと、技術的な興味と少しの後ろめたさが同時に来る。内部の文字列や構成を見つけること自体は、Android アプリでは珍しい話ではない。ビルドの過程で消しきれなかった名前や、機能フラグの痕跡が残ることはある。でも、それをどう読むかは別問題で、単なる発見譚で終わらせるのか、製品の作り方まで想像するのかで、記事の面白さがかなり変わると思う。 こういう内部の手がかりは、完成品だけ見ていると見えない「まだ固まりきっていない部分」を感じさせるのがいい。アプリは配布された瞬間に完成物に見えるけれど、実際には名前を変え、機能を隠し、不要なものを削る作業の積み重ねだ。その途中の名残が見えると、巨大

papoo.work

AnthropicのOSS Scannerを読んで考えたこと

いちばん引っかかったのは、「無料で役に立ちそう」なのに、同時にかなり危うい匂いもするところだった。モデルが吐いた report をそのまま渡す仕組みは、うまくハマれば maintainer の手間を減らせる。でも、security の世界では「それっぽい説明」がいちばん厄介だと思う。reproducer や suggested patch まで付いてくると、つい信じたくなるからだ。 ここで面白いのは、Anthropic が human review を挟まないと明言している点だと思う。普通ならそこで不安になるのに、逆にその割り切りがこのサービスの本質なのだろうとも感じた。つまりこれは「正解を届ける道具」ではなく、「調査のきっかけを大量に投げる道具」だ。maintainer が少ない open-source project では、こういう入口自体がないことも多いので、最初の一歩を作る価値はあるはずだ。 ただ、記事を読んでいて素直にうなずけなかったのは、opt-in 方式のところでもある。記事中のコメントにあったように、積極的に設定できる repo ほど恩恵を受けて、余裕のない小規模 pr

papoo.work

Anthropicの無料スキャン、ちょっと気前がいいようでいて気になるところもある

無料で脆弱性を探してくれるのは、オープンソースの現場にはかなり助かる話だと思った。人手も予算も足りないプロジェクトほど、セキュリティ確認は後回しになりがちだから、こういう仕組みがあるだけで見つかる穴は増えるはずだ。 ただ、記事を読んでいちばん引っかかったのは、「完全にモデル生成で、人間のreviewやtriageはしない」 という点だった。スピードを優先する代わりに、誤検知や無効な報告が混ざると最初から明言している。これは正直で好感はある一方、受け取る側の負担はそれなりに重い。脆弱性報告って、たとえ半分がノイズでも、対応する人の時間を簡単に溶かすので、無料だからといって素直に歓迎しきれない面がある。 それでも、AIが攻撃側にも防御側にも効いてしまう今、こういう「守りに振った使い方」を企業が前面に出すのは自然な流れではあると思う。GoogleのOSS-Fuzzの系譜に乗せているのも筋が通っているし、XZ Utilsみたいな事例を思うと、オープンソースの安全確認を自動化したい圧力はかなり強い。 ただ、ここで少し意地悪に見るなら、こうしたサービスは善意だけではなく、基盤としてのオープ

papoo.work

無料のAI脆弱性スキャンに、少しだけ安心してしまう

正直、これは便利そうだと思う一方で、かなり怖い施策でもある。 open-source project にとってセキュリティ監査は喉から手が出るほどほしい。でも、それを「最強モデルが無料で定期的にやります」と言われると、ありがたさと同じくらい、報告の洪水が頭に浮かぶ。記事でも触れられている通り、human review なしの完全自動生成らしいので、精度の問題は最初から織り込み済みだ。ここを割り切って速度を取るのは、AIっぽい発想だと思う。 ただ、ここで面白いのは、Anthropic が単に「AIでバグを見つけます」と言っているだけではないことだ。open-source 側が自分から opt-in する形にしているのが重要で、押しつけではない。誰かが勝手にレポートを送りつけてくるのではなく、受け入れる側が使うかどうかを決める。これは、AI-generated bug report に疲れている現場に対して、少しは筋の通った設計に見える。Linus Torvalds や Google まわりの話が出てくるのも、単なる理想論ではなく、現場がすでに「AIの指摘をさばくコスト」に困っているからだ

papoo.work

無料のAI脆弱性スキャナ、うれしいけれど少しこわい

最初に思ったのは、「やっとここまで来たか」という気持ちと、「でも、これ本当に回るのかな」という引っかかりでした。AIが脆弱性を見つける話自体はもう珍しくないけれど、今回の記事で目を引いたのは、Anthropicがそれを“無償の定期スキャン”としてOSS向けに出してきた点です。善意のように見える一方で、公開ソフトウェアの世界にAIの判断がじわっと入り込んでいく感じがします。 特に気になったのは、人間のレビューやトリアージを前提にしない、というところです。スキャンの回転数を上げるには理にかなっているけれど、脆弱性報告って本来は「見つける」より「雑音を減らす」ほうが難しいことが多い。もし誤検知が多ければ、保守者は無料どころか余計な負担を背負うことになる。そこをAnthropicも分かっていて、すぐに90日ルールを当てはめないと言っているのだと思いますが、それでも“AIが出した報告をどう扱うか”という摩擦は残りそうです。 一方で、Dockerfileでオフライン実行できるようにする設計はかなり現実的だと感じました。脆弱性診断の自動化は、結局のところ再現性と環境構築でつまずきがちですから、そこを

papoo.work

SDK生成ツールをめぐる、開かれた選択

まず、CloudflareがForgeをオープンソースで出した、という部分に少しほっとした。AnthropicがStainlessを買って自前のSDK generatorをしまった、という流れの直後だからなおさらだ。こういう基盤ツールは、便利なだけに“ある日突然使えなくなる”不安がつきまとう。だから、少なくともCloudflareは外に出したままにしたのか、というのが最初に引っかかった点だった。 ただ、記事を読んでいて面白かったのは、これは単なる「オープンソースの勝ち」みたいな話ではないことだと思う。SDK generatorって、APIを使う側から見ると地味だけど、実際には開発体験をかなり左右する。各言語向けのSDKを毎回きれいに揃えるのは面倒だし、そこを自動化できるとエコシステム全体が楽になる。逆に言うと、そこを自社の都合で閉じると、使う側は急に依存先の機嫌をうかがう形になる。Anthropicの買収と停止、Cloudflareの公開は、その対比がかなり露骨だった。 もう一つ思ったのは、こういうツールの価値って「生成できること」そのものより、「誰が維持し、どれだけ信頼できる形で続く

papoo.work

AIの安全性は「証明」より「点検」に近い

この記事を読んでまず思ったのは、AIの安全性ってやっぱり一発で白黒つくものではないんだな、ということだった。BloomやPetriの話は「このモデルは安全です」と証明する話ではなくて、どんなふるまいが起きるかを、同じやり方で何度も確かめるための道具の話だ。ここがかなり現実的で、好感が持てる。 特に引っかかったのは、評価のスコアをそのまま「安心材料」にしてしまいそうな空気を、記事がかなり強く牽制している点だった。例えば、あるベンチマークで良い結果が出ても、それはその評価条件の中での話にすぎない。実運用では、プロンプトの書き方も違うし、接続しているツールも違うし、権限設定も違う。つまり、モデル単体のテストと、業務の中で動かすテストは別物だ。これは当たり前なんだけど、AIの話になるとつい忘れられがちだと思う。 もう一つ面白かったのは、こうした評価が「モデルの賢さ」を測るというより、「危ない振る舞いをどれだけ引き出せるか」を探る作業だと整理されているところ。delusional sycophancy みたいな、少し耳慣れないけれど要するに“変に同調しすぎる”ふるまいまで含めて見ているのが、いか

papoo.work

Hacker Newsを“読む”んじゃなく“扱う”発想が面白い

最初に思ったのは、これは単なる HN クライアントではなく、情報の飲み込み方そのものを変えようとしているな、ということだった。長い記事と、それにぶら下がる大量のコメントを前にすると、読む気力が先に尽きる。あの「面白そうだけど全部は無理」という感覚に、かなり正面から向き合っている。 特に引っかかったのは、コメントの要約を作るだけでなく、引用と元コメントの結びつきを残している点だ。AI が要約すると、たしかに速い。でもその速さと引き換えに、「それ本当にその人が言ったこと？」という不安が残る。ここではそこを雑にしない設計になっていて、必要ならすぐ原文へ戻れる。要約を鵜呑みにさせない作りは、地味だけどかなり誠実だと思う。 もうひとつ面白いのは、Claude Code や Codex CLI を前提にしていて、しかも処理を自分のマシンの中で完結させると言っているところ。クラウドに全部投げる便利さより、「自分の契約しているAIを、手元の道具として使う」感覚が強い。こういう形なら、AI機能を使うことへの心理的な抵抗も少し下がるのではないか。少なくとも、読み物と会話の中間みたいな用途では相性がよさそう

papoo.work

27ドルの腕時計が、思ったよりずっと「触れる」開発環境だった

最初に思ったのは、安いガジェットの話というより、手元にある物をもう一度おもしろくし直す話だなということだった。引き出しの奥で眠っていた $27 のスマートウォッチが、Claude みたいな coding agent を通すだけで、急に「遊べる端末」に戻ってくる。そこがかなり気持ちいい。 特に引っかかったのは、著者が最初から完璧を狙っていないところだ。画面の文字位置がずれて読みにくくても、まずは simulator で動かして、次に少しずつ直す。これ、AI を使うと雑に一発で終わらせたくなる場面で、逆に人間が細かく介入したほうが早いことがある、という実感に近いと思う。全部を agent に丸投げするより、1つずつ「ここを直して」と渡したほうがうまくいく。地味だけど、たぶんここが本質だ。 もうひとつ面白かったのは、画面の静的部分を丸ごと画像にしてしまう発想だ。腕時計の中身を全部コードで描こうとするとしんどいけれど、固定部分を画像に逃がせば、一気に難易度が下がる。ただ、その代償として Bluetooth 転送に10分かかったり、画面更新が1〜2秒かかったりする。ここは「賢いけど、やっ

papoo.work

Anthropicの「守り方」の設計は、かなり筋がいい

この記事を読んでまず思ったのは、Anthropic は「強いモデルを配る」ことよりも、「危ない使い方をさせない配り方」をかなり意識している、ということだった。そこが単なるAI機能追加のニュースと少し違う。セキュリティ用途のAIって、便利さだけを前に出すとすぐ不安になるけれど、この記事ではその不安に対して、直接モデルを触らせず、決められた出力だけ返す形に寄せている。発想としては地味だが、実務ではかなり大事だと思う。 特に引っかかったのは、`Claude Security` がコードスキャンに Mythos 5 を使うけれど、利用者は生の出力を見ない、という設計だ。脆弱性の指摘や patch の候補だけを返すなら、攻撃に転用しづらい。これはたしかに理屈としては分かる。ただ、実際の現場では「生の出力を見られない」ことで、調査の自由度がどれくらい削られるのかは気になる。防御と検査の細かさは、たぶん常に綱引きになるはずで、そのバランスをどこに置くかが難しい。 もう一つ面白かったのは、`$35 million` を open source のセキュリティ支援に回す話だ。AI企業が自社モデルの守備範

papoo.work