资料名称： Sebastian Raschka《从零构建推理模型》视频课程（Build Your Own Reasoning Model），8 节视频合计约 11 小时

帖内资料： 8 节视频的观看入口、每节配套的 PyTorch 代码章节（GitHub 仓库 reasoning-from-scratch，ch02—ch08 共 7 个章节目录加环境配置说明）、课程页里每节的要点清单

时间覆盖： 课程发布于 2026 年 10 月 24 日；代码仓库 2025 年 3 月建立，最近更新到 2026 年 10 月 27 日

许可与引用： 代码仓库为 Apache License 2.0；课程文字为作者 Substack 杂志内容（ Sebastian Raschka），页面未单列转载条款，引用时写作者名与杂志地址

适用任务： 想亲手实现推理模型（RLVR、GRPO、蒸馏）的工程师与研究生，以及需要一份 MATH-500 评测入门操作材料的读者

这套课程是作者去年《从零构建大语言模型》编码课的续作，但不用先学前一门：它从一个现成的 Qwen3 0.6B 预训练模型出发，把「怎么评测它、怎么让它推理变强」的每一步自己写出来。全部用 Python 和 PyTorch 手写，不调现成框架的封装。

八节的顺序就是一条完整的方法线。第一节配环境与装包（用 uv），讲硬件怎么选、CUDA 与 Apple Silicon 怎么确认。第二节加载基座模型、手写流式文本生成，加 KV 缓存和 torch.compile 提速度。第三节是核心零件：给 MATH-500 手写一个数学答案验证器，从抽取答案、归一化到判定等价；这个验证器后面还要当强化学习的奖励信号。

第四、五节讲不训练也能涨分的推理扩展：温度、多项式采样、top-p，再用自洽多数表决合并多份答案，并实现打分函数与自精化循环，全程在 MATH-500 上看效果。

第六、七节进入训练：先实现简化版 GRPO——按组生成、用验证器打分、把相对奖励用于权重更新，然后给训练循环加熵、优势统计、裁剪策略比率和 KL 项，逐项讨论它们对训练稳定性的作用，包括奖励作弊和简化 KL 的局限。第八节换一条路线做蒸馏：用 DeepSeek R1 生成带推理过程的答案，整理出训练、验证、测试三段数据，实现监督训练，再在 MATH-500 上和强化学习版的结果对比。

课程开头先用一段把「推理模型、大模型、agent」的关系说清：推理模型是在常规大模型上再加一段可验证奖励的强化训练，让它更能解数学和代码这类难题；它通常是 agent 里的引擎，agent 框架再在外面包上上下文管理和工具调用。这部分来自作者的《编码 agent 的构成》一文，看课之前花几分钟读完会好上手很多。建议的学路是：读一章书、对着视频把这章代码走一遍、再做章节练习。

第八节进入训练之前还有一层细节值得单独提：打分段落的 token 概率与序列对数概率实现，在后面的强化学习章节会原样复用；自精化循环的评测同样落在 MATH-500 上，能看出多花的推理算力换来多少准确率。

每节都在课程页上标了「观看视频」和「章节代码」两个入口，代码在 GitHub 的 reasoning-from-scratch 仓库里，按 ch02 到 ch08 分目录。仓库用 Apache License 2.0，目前 5,700 个 star，还在持续更新。

上手前提：熟悉 Python 和 PyTorch。算力上，前几节生成与评测在 CPU 上就能跑，后面的训练实验要 GPU 才实际，第一节里专门讲了硬件与远程 GPU 的配法。视频放在 YouTube 上，需要一个能正常打开它的网络环境。

课程页、代码仓库和 8 节视频的入口都在下面，回复一下就能看到。