3万字深入理解线性注意力机制：从 DeltaNet、GDN 到 KDA 的演进

腾讯技术工程发布长文，梳理线性注意力机制从普通线性注意力、DeltaNet、GDN 到 KDA 的演进路径，核心是历史上下文被压缩进固定大小状态矩阵，使 Decode 阶段显存占用、读取与计算量相对序列长度保持 O(1)。