Learning Path 04

Attention Evolution

沿算法演进树理解序列记忆如何从完整 KV cache，走向固定状态、主动遗忘、混合检索与跨层路由。

已完成 0 / 8
概念与算法演进树 上方是序列记忆的演进，下方是深度路由的演进，两条路线在 Kimi K3 汇合。 序列维度 · 记什么 / 怎么改 / 怎么忘 深度维度 · 从哪一层取信息 压缩 纠错写入 并行训练 主动遗忘 通道级门控 混合检索 固定相加 → 可学习选择 跨层检索

一手来源
阅读顺序：上方主干解释“有限序列记忆如何升级”，下方支线解释“深层网络如何找回早期表示”。节点中的复杂度均以单层、单序列的主导项表达。