AMD GPUの「面倒な初期作業」をAIが飛ばす話を読んで
ちょっと怖いくらいだと思った。GPU向けの低レベルなコード、つまりモデルを特定のハードウェアで動かすための細かい実装を、ほぼAIだけで書かせてしまったというのは、単なる作業短縮以上の意味があるからだ。 記事を読んでまず引っかかったのは、ここで減っているのが「推論の性能を上げる工夫」ではなく、「移植のための手間」だという点だ。新しいGPUを使えるようにするには、実際にはモデル本体よりも、その下の泥臭い部分で時間が溶ける。そこを12か月から3日まで縮めた、という話はかなり大きい。しかも“almost 100% of kernels”という表現がある。kernelはGPU上で走る小さな処理単位で、ここを自動生成できるなら、CUDAに依存する理由はたしかに弱くなる。 ただ、ここで「Nvidiaの牙城が終わる」とまではまだ思わない。CUDAの強さって、単にコードがあることではなく、長年積み上がったツール、知見、デバッグのしやすさ、実運用での安心感まで含んでいるはずだからだ。AIが初速を劇的に上げても、最後の10%の詰めや、壊れたときの責任の所在までは自動化できない。むしろこの話は、「最初の壁」が
papoo.work