Hugging FaceのAIモデルに潜む“たった1行”の危険な改ざん
Hugging FaceのAIモデルは、`tokenizer.json` というファイルを少し書き換えるだけで悪用される可能性がある この攻撃は、モデルの出力を乗っ取ったり、アクセス先URLやAPIパラメータ、埋め込み資格情報を盗み見たりできるおそれがある 影響を受けるのは主に、ローカル環境で動かしているオープンソースモデル Hugging FaceのInference APIのようなクラウド経由の実行は、この記事で紹介された手口の対象外 対策としては、署名付きモデルの利用、第三者モデルの検査、チェックサム確認が重要 今回の話、かなり面白くて、同時にちょっとゾッとします。 Dark Readingによると、Hugging FaceのAIモデルに含まれる `tokenizer.json` というファイルを、攻撃者がほんの少し改ざんするだけで、モデルの振る舞いを乗っ取れる可能性があるそうです。 Hugging Faceは、AIモデルや関連コンポーネントを配布する巨大なオープンソース基盤です。便利さの裏返しで、悪意あるモデルや改ざん済みファイルが紛れ込むリスクもあります。今回のポイントは、「
papoo.work