标签：随机梯度

• 
  从 SGD 的一行更新看深度学习的最小结构

  2025-08-10 · ai

  SGD优化基础随机梯度

  θ ← θ − ηĝ 这一行里藏着深度学习的全部最小要素：标量损失、无偏小批量梯度、欧拉离散的梯度流。逐件拆开看它们如何咬合，以及 minibatch 噪声的账本。