#machine-learning

RedditのMachine Learningコミュニティで、「bleeding-edge（最先端）」のLLMはどれが本当に強いのか、という話題が投げかけられた ただし、元投稿の本文はこの抽出では確認できず、内容そのものの詳細は読み取れない それでも、このテーマ自体がかなり面白い。なぜなら、LLMの評価は「ベンチマークの点数」だけでは決まらないから 実際には、推論力、速度、価格、長文への強さ、ツール利用のうまさなど、見るべき軸が多い こうした議論は、「結局どれを使えばいいの？」という現場目線の疑問に直結していて、かなり実用的だと思う 今回取り上げるのは、Reddit の `r/MachineLearning` に投稿された「Which LLMs are actually best for bleeding-edge?」という話題です。 直訳すると、「本当に最先端で強いLLMはどれなの？」という感じですね。 こういう問い、かなり“今っぽい”です。というのも、LLMの世界は新モデルが次々に出てきて、「ベンチマークではAが強い」「でも実際に使うとBのほうが気持ちいい」「いや、長文ならC」とい

新しめの open-ish frontier model 3種を、実務寄りのコーディングベンチマークで比較した記事 対象は Kimi K2.6 / Qwen 3.6 Plus / DeepSeek v4 Pro 品質は3つともかなり高い が、総合では DeepSeek v4 Pro がいちばんバランス良好 Qwen 3.6 Plus は総合点は悪くないものの、Planner段階で gate failure が発生 コスト面では DeepSeek が有利。品質差が小さいなら、ここはかなり重要 結論としては、オープン寄りモデルにも十分勝負のチャンスはある、ただし「安いのに高品質」とはまだ言い切れない この記事は、「オープン寄りの frontier model は、閉じた closed-source model に対抗できるのか？」という、いまのAI界隈でかなり気になるテーマを実験で確かめたものです。 ここでいう frontier model は、最先端クラスの大規模AIモデルのこと。 closed-source model は

GGUFは、モデルの重み（weights）だけでなく、実行に必要な周辺情報も1ファイルにまとめるのが強み 具体的には、chat template、special tokens、sampler設定、samplingの順番などが入る ただし、tool callingの形式、think token、projection model、機能フラグなどはまだ不十分 著者は、GGUFが「単一ファイルで扱いやすい」だけでなく、標準として進化できるのが素晴らしいと評価している 個人的にも、LLM周りの“面倒な差分”を1ファイルに寄せていく発想はかなり気持ちいいと思う。とはいえ、全部が自動で解決するわけではない、という現実も見えてくる GGUFは、`llama.cpp` で使われる言語モデルのファイル形式です。 この形式のいちばんの魅力は、「モデルを動かすのに必要なものが、だいたい1つのファイルにまとまる」こと。 たとえば、Hugging Face の safetensors 系のモデルだと、重みのファイルに加

steering は、LLMの内部表現（activations）を直接いじって、出力の傾向を変える手法 たとえば「簡潔に答えて」といった性格を、プロンプトではなくモデル内部から強められる ただし、軽い調整は prompting で代替できることが多く、万能ではない 一方で、拒否を弱める・検閲を外す など、prompting では難しい用途がある Open weights の強いモデルが増えたことで、ローカル環境で steering を試す価値が急に上がった ただし著者は、実用面ではまだ懐疑的。結局は fine-tune や prompt のほうが効率的では、と見ている この記事のテーマは、ざっくり言うと 「LLMの出力を、プロンプトではなく内部から直接いじる技術」 です。 これが steering。日本語にするなら「誘導」や「操舵」に近い感じでしょうか。 著者 Sean Goedecke は、昔の「Golden Gate Claude」にかなり魅了されたと言います。これは Claude の出力がなぜかゴールデンゲー