标签：傅里叶分析

• 
  位置编码的频域分析：把 PE 统一成核函数的谱

  2025-05-10 · ai

  位置编码傅里叶分析核方法

  正弦 PE、RoPE、ALiBi 看似三家方案，在频域里是同一个对象的三次取值：每种 PE 都定义一个关于距离的平稳核，核的傅里叶谱决定它能表达什么样的位置函数。