标签: 模型架构
该标签下的全部文章 "模型架构".
Qwen-VL 系列架构解读:从视觉连接器到 Qwen3-VL 与最新多模态演进
更新于:深入拆解 Qwen3-VL 的视觉编码器、MLP 连接器、DeepStack、位置编码与训练流程,并核对截至 2026-09-26 的 Qwen3.8-Next、Omni 最新公开报告,附论文与 PDF 入口。
MoE 做强化学习为什么容易不稳?从 Dense 对比到路由重放
解释 MoE 与 Dense 的参数、计算和显存差异,拆解大模型 RL 中的路由不一致、专家失衡、探索不足与通信瓶颈,并梳理 R3、PR2、RoutePack 和 ESRL 的解决思路。
大模型基础(一):Transformer 到底改变了什么?
更新于:从序列建模难题出发,拆解 Transformer 的 Encoder–Decoder、Self-Attention、位置编码和残差路径,并建立现代 Transformer 变体的完整坐标系。