全部文章
凡落于此的手记,按年月陈列,供慢慢翻阅。
GSPO 入门:把概率比和裁剪移到整条回答
用四个 token 的概率比解释 GSPO 的几何平均、序列级裁剪与梯度,区分它与 GRPO,并说明 MoE 稳定性的适用边界。
DAPO 入门:把长推理训练的四个薄弱环节补起来
逐步解释 Clip-Higher、动态采样、token 级损失聚合和超长奖励处理,配完整链路与能手算的小例子。
ReMax 入门:用贪心答案当作自己的参照
解释随机生成与贪心生成的双路流程,手算奖励差和策略更新,区分贪心基线、最优答案、RLOO 和 critic。
RLOO 入门:把自己的奖励从基线里拿出去
用四个回答计算 leave-one-out 基线,说明 RLOO 如何构造 REINFORCE 梯度,以及它与 GRPO、PPO 的关系和差异。