#system_prompt

記事を読んでまず思ったのは、「みんな、もう少し system prompt を神秘視しすぎていたのでは」ということでした。 LLM の中身を知りたい気持ちはよく分かるし、実際この手の leaked prompt 集はかなり面白い。けれど、この記事でいちばん刺さったのは“暴露されたテキストそのもの”よりも、「結局、あれは公開されてもおかしくない前提で扱うべきだ」という話でした。 ここは開発者にとって、かなり現実的です。`system prompt` は、モデルの振る舞いを決める説明書みたいなものだけれど、説明書を安全装置だと思い込むと危ない。記事でも触れていた通り、アクセス制御はバックエンドでやるべきで、プロンプトに「他人の注文を見せるな」と書くのは頼りない。これは地味だけど重要で、AI を触っているとつい“指示すれば守ってくれる”気になりがちなんですよね。でも、そこに期待しすぎるのは危ないと思う。 もう一つ面白かったのは、各社の prompt を並べると、単なる雑学ではなく設計の癖が見えてくるところです。 tool の使い方、plan してから動けという指示、フォーマットの縛り、例示の