全部文章
凡落于此的手记,按年月陈列,供慢慢翻阅。
大模型强化学习导读:先看懂训练链路,再学九种方法
从 prompt、rollout、奖励与优势到参数更新,串起 REINFORCE、Actor-Critic、PPO、GRPO、RLOO、ReMax、DAPO、GSPO 与 DPO 的入门学习路线。
LoRA 微调讲透:A/B 矩阵怎样初始化、训练与合并
从低秩增量的逻辑出发,推导 LoRA A/B 矩阵形状、参数量和首步梯度,用可运行 PyTorch 示例解释一随机一为零的初始化,并介绍 PEFT、QLoRA、PiSSA 与 MoE 适配。
MoE 做强化学习为什么容易不稳?从 Dense 对比到路由重放
解释 MoE 与 Dense 的参数、计算和显存差异,拆解大模型 RL 中的路由不一致、专家失衡、探索不足与通信瓶颈,并梳理 R3、PR2、RoutePack 和 ESRL 的解决思路。
2026 Agent 记忆新技术:从历史检索到会学习、会核验的记忆
超越上下文、对话 RAG 和用户画像,解释 2026 年 MemRL、MemSkill、MemoryLACE、RuleMem、MemForest、FocusMem、TMEM 与环境核验记忆的机制、代码现状及实现路径。