ggml 1.0.0、古いAPIを削って性能と対応先を広げる節目のリリース
ggml の v1.0.0 は、単なる番号の繰り上げではありません。非推奨だった公開APIや古い演算を整理しつつ、YaRN の扱いを調整できるようにし、FP8 対応も加えています。しかも中身を見ると、CUDA、Metal、Vulkan、SYCL、OpenCL、WebGPU、Hexagon、CPU と、かなり広い範囲で性能改善が入っている。LLM 周辺の基盤ライブラリが、互換性より実用性と速度を優先する段階に入ったことを示すリリースだと受け取れます。 リリースノートの冒頭では、ggml 1.0.0 が deprecated だった public API を整理し、legacy の DIAG_MASK ops を削除したと説明しています。あわせて、RPC protocol も更新され、互換性のない相手は受け付けないようになりました。古い挙動を残したまま拡張するのではなく、ここで一度、土台を切り替えた形です。 機能面では、YaRN correction-bound rounding を制御するための `ggml_rope_set_truncate` と `ggml_rope_get_trun
papoo.work