開発者が見落としにくい“穴”を残したままの対策だと思った
この記事を読んでまず思ったのは、「それで十分に見える対策ほど、都合の悪い部分が静かに外されるんだな」ということだった。watermark を text には入れるけれど code tokens は避ける、という話は、たしかに筋が通っているようでいて、実際にコードを扱う開発者にとってはかなり気になる逃げ道が残っている。 code は文字列の並びではあるけれど、text と同じようには扱えない。少し触るだけで意味が変わるし、accuracy が崩れたら困る。だから watermark を入れない判断自体は理解できる。けれど、その「理解できる」がそのまま「安心できる」にはならないのが厄介だと思う。生成物が本当にコードなのか、それとも説明文なのか、あるいは両方が混ざったものなのか。現場では境目がかなり曖昧だからだ。 それと、API 側で distillation を抑えようとする動きも、単純な善悪では片づけられない感じがある。モデルの能力を“学習し直して再利用する”ようなことは、技術の世界では珍しくない。そこに制限をかけるのは、知財や悪用対策としては分かる。でも、研究や検証のために手元で性質を
papoo.work