标签: 大模型基础

该标签下的全部文章 "大模型基础".

• REINFORCE 入门：奖励怎样变成模型的梯度

  15 Sep, 2026

  用一个只有两个候选答案的模型，手算 REINFORCE 的概率、损失、梯度和 SGD 更新，理解基线、方差与完整在线训练流程。

• 大模型强化学习导读：先看懂训练链路，再学九种方法

  15 Sep, 2026

  从 prompt、rollout、奖励与优势到参数更新，串起 REINFORCE、Actor-Critic、PPO、GRPO、RLOO、ReMax、DAPO、GSPO 与 DPO 的入门学习路线。

• LoRA 微调讲透：A/B 矩阵怎样初始化、训练与合并

  14 Sep, 2026

  从低秩增量的逻辑出发，推导 LoRA A/B 矩阵形状、参数量和首步梯度，用可运行 PyTorch 示例解释一随机一为零的初始化，并介绍 PEFT、QLoRA、PiSSA 与 MoE 适配。

• MoE 做强化学习为什么容易不稳？从 Dense 对比到路由重放

  14 Sep, 2026

  解释 MoE 与 Dense 的参数、计算和显存差异，拆解大模型 RL 中的路由不一致、专家失衡、探索不足与通信瓶颈，并梳理 R3、PR2、RoutePack 和 ESRL 的解决思路。