标签:故障排查
-
loss spike 的成因与对策:bf16、脏数据与优化器状态的排查顺序
loss 曲线上的尖峰大部分不是优化器的锅。这篇按"先量化、再定位、后处置"的顺序给出排查流程:用滑动基线区分真尖峰和噪声,按命中率从高到低排查 bf16 溢出、优化器状态污染、数据异常段,并给出回滚-降 lr-换数据段的处置决策树。
loss 曲线上的尖峰大部分不是优化器的锅。这篇按"先量化、再定位、后处置"的顺序给出排查流程:用滑动基线区分真尖峰和噪声,按命中率从高到低排查 bf16 溢出、优化器状态污染、数据异常段,并给出回滚-降 lr-换数据段的处置决策树。