标签：top-k
-
采样策略的概率视角：top-k 与 top-p 的尾部行为对比top-k 固定保留 k 个候选，top-p 按累积概率自适应取集合。本文从截断分布的数学形式出发，解释为什么固定 k 在分布平坦时砍质量、尖锐时放垃圾，以及 nucleus 采样如何用一条累积曲线解决这个矛盾。
top-k 固定保留 k 个候选，top-p 按累积概率自适应取集合。本文从截断分布的数学形式出发，解释为什么固定 k 在分布平坦时砍质量、尖锐时放垃圾，以及 nucleus 采样如何用一条累积曲线解决这个矛盾。