标签：MLA

• 
  解耦 RoPE：MLA 与位置信息的冲突及 DeepSeek 的解法

  2026-06-16 · ai

  MLA位置编码KV cache

  MLA 靠把 W^{UK} 吸进投影矩阵省 cache，但 RoPE 的逐位置旋转挡在吸收路径上。DeepSeek-V2 的解耦 RoPE 用一条小维度位置通道化解了这个结构性冲突。