多元高斯分布积分的莱布尼茨法则应用疑惑:标量与向量矛盾问题
嘿,你的思考很细致,这个矛盾的根源其实是你混淆了标量偏导和向量梯度的维度,以及对向量值函数积分的理解,咱们一步步理清楚:
首先,先明确各个量的维度属性:
- 多元高斯密度$f(\mathbf{x},\boldsymbol{\mu},\Sigma)$是标量函数(概率密度本身是标量)
- 对均值向量$\boldsymbol{\mu}$求梯度$\nabla_{\boldsymbol{\mu}} f$,得到的是一个d维向量(对$\boldsymbol{\mu}$的每个分量单独求偏导,每个偏导对应向量的一个元素)
- 对变量向量$\mathbf{x}$求梯度$\nabla_{\mathbf{x}} f$,同样得到的是d维向量(对$\mathbf{x}$的每个分量求偏导,构成向量的元素)
你提到的等式$\frac{\partial}{\partial\boldsymbol{\mu}}f(\mathbf{x},\boldsymbol{\mu},\Sigma) = - \frac{\partial}{\partial\mathbf{x}}f(\mathbf{x},\boldsymbol{\mu},\Sigma)$,更准确的表述是梯度向量的对应分量相等:对任意分量$i$,$\frac{\partial f}{\partial \mu_i} = -\frac{\partial f}{\partial x_i}$,所以整体上$\nabla_{\boldsymbol{\mu}} f = -\nabla_{\mathbf{x}} f$,这里两边都是d维向量,不是标量。
接下来看积分$\int_{\mathbb{R}^d} \nabla_{\mathbf{x}} f , d\mathbf{x}$:这是对向量值函数的积分,规则是对向量的每个分量单独积分,也就是:
$$
\int_{\mathbb{R}^d} \nabla_{\mathbf{x}} f , d\mathbf{x} = \begin{pmatrix}
\int_{\mathbb{R}^d} \frac{\partial f}{\partial x_1} dx_1dx_2\cdots dx_d \
\int_{\mathbb{R}^d} \frac{\partial f}{\partial x_2} dx_1dx_2\cdots dx_d \
\vdots \
\int_{\mathbb{R}^d} \frac{\partial f}{\partial x_d} dx_1dx_2\cdots dx_d
\end{pmatrix}
$$
对每个分量的积分应用微积分基本定理:比如第一个分量$\int_{-\infty}^{\infty} \frac{\partial f}{\partial x_1} dx_1$,结果是$f$在$x_1\to+\infty$和$x_1\to-\infty$处的差值,而高斯密度在无穷远处趋近于0,所以这个积分结果是0。同理,每个分量的积分都是0,最终整个向量积分的结果是d维零向量,而不是你误以为的标量。
最后回到矛盾点:当$\mathcal{S}=\mathbb{R}d$时,$v=\int_{\mathbb{R}d} f d\mathbf{x}=1$(概率密度的归一性),所以$\nabla_{\boldsymbol{\mu}} v = \nabla_{\boldsymbol{\mu}} 1 = \boldsymbol{0}$(d维零向量),而$w_2$也是d维零向量,两者完全相等,不存在“向量等于标量”的矛盾。
总结一下,你出错的地方是把对$\mathbf{x}$的梯度当成了标量偏导,忽略了它的向量属性,进而误以为积分结果是标量——实际上整个过程中所有的梯度和积分结果都是向量,维度始终一致,矛盾就不存在啦。
备注:内容来源于stack exchange,提问作者mto_19

