AI×セキュリティツールはなぜ「それっぽい嘘」をつくのか──OSINTをターミナルで回す新しい設計の話
AIをセキュリティ調査にそのまま使うと、本物っぽい誤情報を平気で出すことがある 失敗の原因は、LLMが「もっともらしい答え」を作るのが得意すぎること ふつうの ReAct ループでは、モデルがツール結果を予測してしまい、後から現実に合わせにくい Anthropic の native tool use API では、ツール呼び出しと結果の受け渡しを構造化でき、幻覚をかなり抑えられる 著者はこれを使って、ターミナルから OSINT 調査を回すオープンソースエージェント OpenOSINT を作った 「全部自動化」よりも、状況に応じて次の調査を選べるエージェントのほうが実用的、という主張が面白い この記事の出発点はかなり衝撃的です。著者が以前使った AI の OSINT（Open Source Intelligence）ツールは、調査結果としてこんなものを出したそうです。 Twitter: @targethandle GitHub: https://github.com/megadose/holehe IP Address: 80.249.165.11
papoo.work