前几篇分别推了正弦 PE（第 5020 篇）、ALiBi（第 5050 篇）、RoPE（第 5010 篇）。这篇换一个视角：不看"编码长什么样"，看"编码诱导的核长什么样"，三者在频域里立刻变成同一个数学对象。
从编码到核
注意力打分 = 内容项 + 位置项。把内容固定，只看位置对打分的边际贡献，每种 PE 都诱导出一个只依赖距离 $r = i - j$ 的函数 $K(r)$——把它看成核函数（核回归视角见第 4270 篇）：
$$ \underbrace{K(r) = \sum_d \cos(r\theta_d)}_{\text{正弦 PE / RoPE（无内容时）}},\qquad \underbrace{K(r) = -s\,|r|}_{\text{ALiBi}},\qquad \underbrace{K(i,j) = p_i^\top p_j \;\;(\text{查表，非平稳})}_{\text{可学习绝对 PE}}. $$
前两个是平稳核（只依赖 $r$），这是相对位置方案的代数特征；可学习绝对 PE 的"核" $p_i^\top p_j$ 依赖两个绝对下标，不平稳——这一个性质之差，决定了外推能力的分野（第 5030 篇的局限在这里有了谱的解释）。
三种谱
对平稳核做傅里叶变换 $\hat K(\omega) = \int K(r) e^{-i\omega r}\, dr$，得到的密度就是"模型在各个位置频率 $\omega$ 上的表达能力"：
正弦 / RoPE：线谱。 $K(r) = \sum_d \cos(r\theta_d)$ 的谱是 $\omega = \pm\theta_d$ 处的一串冲激。这不是近似——正弦 PE 本质就是"把位置做截断傅里叶展开"，谱线位置就是基频的几何铺排 $\theta_d = 10000^{-2d/d_{\max}}$（第 5070 篇）。表达能力集中在 $d/2$ 根离散谱线上，谱线之间的频率成分模型表达不了。
ALiBi：洛伦兹谱。 注意力权重里的核是 $e^{-s|r|}$（第 5050 篇推过这个等价），其谱是洛伦兹型：
$$ \widehat{e^{-s|\cdot|}}(\omega) = \frac{2s}{s^2 + \omega^2}. $$
低频集中、无振荡、单调衰减。物理图像：一个低通先验，"越远越不重要"用连续谱表达，而不是离散振荡通道。多头取几何序列斜率 $s_h$，等于把同一个谱形在频率轴上对数平铺——和 RoPE 谱线的对数铺排是同构设计。
可学习绝对 PE：栅格谱。 谱只在训练见过的下标网格上被优化，网格之外没有定义。傅里叶分析说得很直白：它的谱不是"形状不适合外推"，是根本不存在于训练网格之外——表外取值等价于未初始化参数。
谱视角的三个推论
外推 = 未采样滞后处的核行为。 平稳核由 $\hat K$ 完全决定，所以"外推能力"不是玄学：看 $\hat K$ 是否低维、平滑、有解析形式。RoPE 的线谱解析延拓自然（旋转任意角都有定义），ALiBi 的洛伦兹谱天然全局，可学习 PE 没有解析形式——三者的外推排名在谱上一目了然，与第 5110 篇的实测一致。
分辨率 = 谱线密度。 第 5150 篇算的"距离 $r$ 处区分度随频率线性缩水"，在频域里是个 Nyquist 味道的结论：要分辨尺度 $\Delta r$ 的位置结构，需要 $\omega \lesssim 2\pi/\Delta r$ 的谱成分。RoPE 谱线铺到 $\theta_{\min} \approx 10^{-4}$，对应最大可分辨尺度约 $5\times 10^4$——但谱线只有 $d/2$ 根且对数分布，中间频率是空的，分辨率呈阶梯状。
多尺度 = 谱覆盖策略。 RoPE 用离散谱线对数铺满（覆盖广、分辨率不均匀），ALiBi 用连续低通谱（平滑、只有低频），长卷积/Hyena（第 4260 篇）用可学习核即"可学习谱"（自由但需训练数据支撑）。选型之争在频域里是纯粹的谱设计之争。
小结
频域视角把所有位置编码方案放到同一把尺上：$K(r)$ 是否平稳决定能否相对化，$\hat K$ 的形状决定表达与外推，谱的覆盖决定分辨率。下次看到新的 PE 方案，可以先问三个问题：核是什么、谱长什么样、谱线在频率轴上怎么铺。