标签：自动微分

• 
  反向传播即 reverse mode 自动微分：一次前向一次反向的代价账

  2025-04-27 · ai

  自动微分反向传播计算图

  把反向传播放回自动微分的谱系里：前向模式按输入维数计费、反向模式按输出维数计费，标量损失让两者相差一亿倍，这就是深度学习只用反向模式的原因。