AIメモは放っておくと静かに腐る
この記事を読んでまず思ったのは、「AI の記憶」を立派な仕組みとして扱う前に、せめて壊れ方を見張る発想が必要だな、ということでした。 発想自体はかなり地味です。派手なベクトルDBではなく、Markdownファイルを人間が読める形で持ち、そこに壊れたリンクや日付抜け、肥大化を検査する。けれど、その地味さがむしろ筋がいいと思いました。AIの記憶って、最新の検索技術より先に「どれだけ信じてよいか」が問題になるので。 特に引っかかったのは、「記憶が壊れるときは静かに壊れる」という見方です。ファイル名を変えたせいで wikilink が死んでも、すぐには誰も気づかない。日付のないメモは、後から見返したときにいつの知識なのか分からない。こういうのは、モデルの性能というより運用の話ですが、実際にはここで思った以上に品質が落ちるはずです。AIはそれっぽく読めてしまうぶん、間違いが見えにくい。だからこそ、機械が自分で点検する仕組みは必要だと思いました。 もう一つ面白かったのは、削除を禁止するのではなく「意図的にする」よう促している点です。pre-commit hook で大量削除を止める、というのはかな
papoo.work