近ごろのLLMは、ただ返答するだけではなく、考える手順そのものを強化した「reasoning model」へと移りつつあります。Sebastian Raschkaは、その仕組みを本だけでなく動画でも学べるようにしたと発表しました。しかも、説明だけで終わらせず、PythonとPyTorchで実装しながら追える構成です。単なる入門講座というより、現在のAI開発で何が実際に使われているのかを手元で確かめるための教材に近い内容です。
元記事が告知しているのは、Sebastian Raschkaによる「Build Your Own Reasoning Model: A Full Video Course」です。内容は8本、合計11時間超のコーディング動画で、PythonとPyTorchを使いながら reasoning model の中身を実装していきます。対象は最初から巨大モデルを訓練する話ではありません。まずは事前学習済みの小さな Qwen3 0.6B を読み込み、そこに推論能力を足していく流れです。
記事では、reasoning model を従来のLLMより一段進んだものとして説明しています。違いは、単に次の単語を当てるだけでなく、reinforcement learning with verifiable rewards のような追加の post-training を行い、必要なら inference-time scaling も使って、より難しい問題に対応できるようにする点です。もともとは数学やコードに強いモデルとして語られてきたものですが、考え方は他の領域にも広がりうる、としています。
そのうえで、reasoning model は agent の「エンジン」に当たるとも述べています。agent harness と呼ばれる外側の仕組みが、コンテキスト管理やツール利用を担当し、その中核で reasoning model が働く、という整理です。つまり、チャットボットとエージェントの間にある見えにくい実装層を、動画では手を動かしながら理解させる狙いがあります。
各動画の内容もかなり具体的です。最初は環境構築で、PythonやPyTorchの依存関係を uv で入れ、GPUやApple Silicon、リモートGPUの扱いまで確認します。次に、Qwen3 0.6B の重みを読み込み、token のエンコードとデコード、greedy decoding、streaming text generation、KV cache、さらに torch.compile を組み合わせて高速化するところまで進みます。ここでの目的は、ベースモデルがどう動くかを押さえることです。
評価の章では、math 問題向けの verifier を作ります。最終回答を取り出して正規化し、数学的に同値かどうかを判定する流れを実装し、そのまま MATH-500 で評価に使います。この verifier は後半では reward signal にも転用され、RLVR の土台になります。続いて inference-time scaling の章では、temperature scaling、multinomial sampling、top-p filtering で複数候補を出し、self-consistency で多数決を取る方法を扱います。さらに、token や sequence の log probability を使った scoring、self-refinement のループ、そして最終的には GRPO を簡略化した形で実装し、verifier を報酬にして学習します。最後は distillation にも触れ、別モデルのふるまいを小さなモデルへ移すところまで含まれています。
この企画で面白いのは、reasoning model を魔法として扱わず、かなり地味に分解している点だと思う。多くの人は、モデルが長く考えるとか、推論モードがあるとかいう表面だけを見がちだが、実際には inference-time の工夫、reward を与える設計、評価器の精度、cache の扱いまで全部つながっている。Raschkaはそこを一気通貫で見せようとしている。教育用の動画としてはかなり筋がよい。
ただし、ここにはひとつ重要な含みもある。reasoning model は「賢くなったモデル」ではあるが、万能な推論装置ではない。記事でも数学とコードが中心だと認めていて、だからこそ verifier で判定できる領域に寄っている。これは実務的には大事で、verifiable reward がある問題なら強いが、正解の定義が曖昧な相談や創造的な仕事では、そのまま同じやり方が通るとは限らない。講座が扱う範囲の明確さは美点だが、同時に限界の線引きでもある。
記事が agent harness を強調しているのも、かなり今っぽい。最近のAI開発は、モデルを呼び出して終わりではなく、ツールをどう渡すか、途中状態をどう保持するか、複数の候補をどう評価するかで体験が変わる。つまり、同じ基盤モデルでも、外側の設計次第で性能がかなり違って見える。Raschkaの説明は、その実感にかなり近い。
私はここに、学習の順序としてのうまさを感じる。いきなり大規模RLやプロダクションのエージェント設計に飛ぶのではなく、まず小さな pretrained model に対して、生成、評価、再ランキング、自己修正、学習を順番に足していく。これなら、どこで精度が上がり、どこで計算コストが増えるのかが見える。AI開発では、この見え方自体が大事だと思う。ブラックボックスのままAPIを使うのと、内部のトレードオフを理解したうえで使うのとでは、設計判断の質が変わるからだ。
元記事は動画コースであることを前面に出している。しかも、書籍、短い概説コース、8本の長い講義を役割分担させている。これは単に教材を増やしただけではなく、理解の層を分けているように見える。ざっと概念を知りたい人には90分のコース、本気で手を動かしたい人には11時間超の動画と本、という整理だ。
ここで重要なのは、reasoning model の話が、もう「新しい概念を知れば十分」という段階を超えていることだと思う。実際の開発では、tokenization、sampling、log probability、verifier、RL、distillation まで一続きでつながる。どれか一つだけ理解しても、全体像は見えにくい。だからこの講座は、最新用語の解説というより、実装を通じて各部品の関係を体に覚えさせる方向に振り切っている。AIの学習教材としてはかなり誠実だし、現場寄りだと感じる。
この講座が刺さるのは、すでにPythonとPyTorchに慣れていて、LLMをAPIとして消費するだけでは物足りなくなった人だと思う。逆に、AIの理屈をざっくり知りたいだけなら、ここまで深く入る必要はない。Raschka自身も、そのために短いLinkedIn Learningのコースを別に用意している。
それでも、この長い講座を作った意味は大きい。reasoning model は今後も、チャットUIの裏側、coding agent、ツール利用型システムの中心に残るはずだからだ。しかも、賢さの本体がモデル内部だけでなく、推論時の工夫や学習信号の設計に広がっている以上、理解すべき対象は思ったより広い。そこを曖昧にせず、コードで見せる。今回の発表は、その姿勢が一貫しているところに価値があると思う。
