标签:矩阵求导
-
行列式与逆矩阵的导数:Jacobi 公式,以及它在归一化流里的角色
推导 dX⁻¹=−X⁻¹dX·X⁻¹ 与 d log det X=tr(X⁻¹dX) 两条公式,说明后者为什么是归一化流、高斯 MLE 的代数支点,以及"让 log det 便宜"如何决定流模型的架构。
-
雅可比矩阵与链式法则的矩阵形式:为什么反向传播是"转置左乘"
把多元链式法则写成雅可比矩阵的语言,说清梯度回传为什么表现为 J 的转置左乘,以及为什么工程上只需要 VJP 而不需要 J 本身。
-
-
-
微分法求矩阵导数:trace 技巧入门与四个标准战例
把 df=tr(GᵀdX) 这套微分法流程系统化,用四个递进的战例(线性型、双线性型、二次型、最小二乘)练熟"算微分、挪 dX、读梯度"三步配方。
-
对称矩阵求导的坑:独立变量只有一半时梯度怎么修正
对对称矩阵求导时,朴素微分法的结果差一个对称化修正——根源是非对角元素成对出现。用方向导数给出严格推导,并澄清 d(XᵀAX) 里因子 2 的真正来源。
-
softmax 的雅可比矩阵与交叉熵梯度:p−y 这个干净结果的代数来源
逐分量推出 softmax 的雅可比 J=diag(p)−ppᵀ,分析它的谱结构,再展示它与交叉熵梯度相乘时为什么恰好化简成 p−y。
-
Kronecker 积与向量化:把矩阵方程拉回向量世界的 vec 操作
vec 操作与恒等式 vec(AXB)=(Bᵀ⊗A)vec(X) 让一切矩阵线性方程化归向量形式;它在深度学习里的真正身价是 K-FAC 二阶优化的理论根基。
-
从矩阵求导看反向传播:布局约定、trace 技巧与一次完整手推
建立"标量对矩阵求导"的统一记号,用微分法手推两层网络的反向传播,说明 reverse mode 为什么是唯一可行的选择。