标签：ELBO
-
变分推断与 ELBO：证据下界怎么推出来的潜变量模型的边缘似然 ∫p(x|z)p(z)dz 算不动，变分推断用一个好处理的 q(z|x) 去逼近真实后验。本文从 Jensen 不等式推出 ELBO，看清单调性与重建项、先验匹配项的张力，并指出它如何一路通向扩散模型。
潜变量模型的边缘似然 ∫p(x|z)p(z)dz 算不动，变分推断用一个好处理的 q(z|x) 去逼近真实后验。本文从 Jensen 不等式推出 ELBO，看清单调性与重建项、先验匹配项的张力，并指出它如何一路通向扩散模型。