正定矩阵分块逆矩阵相关二次型最小值的证明疑问
嗨,我来帮你理顺这个证明的思路,你之前的方向没问题,只是在二次型展开和求导的步骤上没走通,咱们一步步来拆解:
首先,先把目标二次型展开成关于$x_1$的一元函数。已知分块形式的$A^{-1} = \begin{bmatrix} \alpha & \beta^T \\ \beta & \Delta \end{bmatrix}$,以及$x = \begin{bmatrix} x_1 \\ \tilde{x} \end{bmatrix}$,我们把$xTA{-1}x$展开:
$$
xTA{-1}x = \alpha x_1^2 + 2\beta^T\tilde{x} x_1 + \tilde{x}^T\Delta\tilde{x}
$$
这里解释下交叉项:$x_1\betaT\tilde{x}$和$\tilde{x}T\beta x_1$是相等的(因为标量的转置等于自身),所以合并成$2\beta^T\tilde{x}x_1$。
接下来,这是一个开口向上的一元二次函数(因为$\alpha>0$,毕竟$A{-1}$是正定矩阵,对角元都是正数),它的最小值出现在顶点位置。对于$ax2+bx+c$形式的二次函数,顶点的$x$值是$-b/(2a)$,对应到这里就是:
$$
x_1 = -\frac{\beta^T\tilde{x}}{\alpha}
$$
现在把这个最优的$x_1$代回原二次型计算最小值:
$$
\begin{align*}
&\alpha\left(-\frac{\betaT\tilde{x}}{\alpha}\right)2 + 2\betaT\tilde{x}\left(-\frac{\betaT\tilde{x}}{\alpha}\right) + \tilde{x}^T\Delta\tilde{x} \
=& \frac{(\betaT\tilde{x})2}{\alpha} - \frac{2(\betaT\tilde{x})2}{\alpha} + \tilde{x}^T\Delta\tilde{x} \
=& \tilde{x}^T\Delta\tilde{x} - \frac{(\betaT\tilde{x})2}{\alpha}
\end{align*}
$$
这里关键的一步是把标量平方转化为矩阵形式:$(\betaT\tilde{x})2 = \tilde{x}T\beta\betaT\tilde{x}$(因为$\betaT\tilde{x}$是标量,它的转置等于自身,即$\betaT\tilde{x} = \tilde{x}^T\beta$,两者相乘就得到这个矩阵形式)。代入后上式变为:
$$
\tilde{x}^T\left(\Delta - \frac{\beta\beta^T}{\alpha}\right)\tilde{x}
$$
而题目里已经给出结论$\tilde{A}^{-1} = \Delta - \frac{\beta\betaT}{\alpha}$,所以这个最小值就是$\tilde{x}\tilde{A}{-1}\tilde{x}$,正好是你要证明的结果。
如果你想用求导的方法验证,也很简单:对$f(x_1) = \alpha x_1^2 + 2\beta^T\tilde{x}x_1 + \tilde{x}^T\Delta\tilde{x}$求关于$x_1$的偏导,得到:
$$
\frac{\partial f}{\partial x_1} = 2\alpha x_1 + 2\beta^T\tilde{x}
$$
令导数等于0,解得的$x_1$和之前顶点法得到的完全一致,再代入计算就能得到同样的最小值了。你之前可能是没正确展开二次型,导致求导的式子写错了~
备注:内容来源于stack exchange,提问作者Sonamu




