全部文章
关于学习、实践与思考的持续记录。
大模型基础(二):Self-Attention 从张量到多头机制
更新于:逐步拆解 Q、K、V 投影、缩放点积、Mask、Softmax、Value 聚合与 Multi-Head Attention,并用可手算案例解释训练和推理中的真实数据流。
大模型基础(一):Transformer 到底改变了什么?
更新于:从序列建模难题出发,拆解 Transformer 的 Encoder–Decoder、Self-Attention、位置编码和残差路径,并建立现代 Transformer 变体的完整坐标系。
Pi Coding Agent 源码导读(十三):从零实现一个 Mini Pi
用 pi-ai 与 pi-agent-core 构造最小 Agent,并用确定性 Fake Provider 验证两轮模型调用、一次 Tool Use、结果回灌和事件顺序。
Pi Coding Agent 源码导读(十二):AgentHarness 的持久化运行架构
分析 Pi experimental AgentHarness 的 Session、Branch、AgentLane、Operation、事务存储、Effect Gate 与崩溃恢复,并和稳定 CLI v3 对照。