正定与半正定矩阵逆（伪逆）的不等式关系探究

Great question! Let's start with a straightforward conclusion: when $A\succ 0$, $B\succeq 0$, and $A\succeq B$, the proposed inequality $A^{-1}\preceq B^\dagger$ does NOT hold in general. In fact, there's no direct global pseudo-inverse inequality that mirrors the invertible case. Let's walk through why, with concrete examples and correct characterizations.

1. 一个简单的反例 #

我们构造一个2阶矩阵的例子来直接推翻猜想：

• 取正定矩阵 $A = \begin{pmatrix} 1 & 0 \ 0 & 1 \end{pmatrix}$（单位矩阵）；
• 取半正定奇异矩阵 $B = \begin{pmatrix} 1 & 0 \ 0 & 0 \end{pmatrix}$。

首先验证 $A\succeq B$：$A - B = \begin{pmatrix} 0 & 0 \ 0 & 1 \end{pmatrix}$ 是半正定矩阵，满足条件。

接下来计算伪逆：

• $A$ 可逆，所以 $A^{-1} = A = \begin{pmatrix} 1 & 0 \ 0 & 1 \end{pmatrix}$；
• $B$ 的伪逆 $B^\dagger = \begin{pmatrix} 1 & 0 \ 0 & 0 \end{pmatrix}$（对角奇异矩阵的伪逆保留非零对角元，零元保持为0）。

现在对比 $B^\dagger - A^{-1} = \begin{pmatrix} 0 & 0 \ 0 & -1 \end{pmatrix}$，这是半负定矩阵，也就是说 $A^{-1}\succeq B^\dagger$，和你猜测的不等式完全相反。这直接证明了猜想不成立。

2. 该场景下的正确刻画 #

虽然没有全局的伪逆不等式，但我们可以通过子空间相关的性质来描述这种关系：

核心性质：值域包含 #

半正定矩阵不等式的一个基础性质：若 $A\succ 0$ 且 $A\succeq B\succeq 0$，则 $B$ 的值域包含于 $A$ 的值域，即 $\mathcal{R}(B)\subseteq\mathcal{R}(A)$。

子空间受限的不等式 #

我们可以通过分块矩阵将问题限制在 $\mathcal{R}(B)$ 上分析：

• 设 $r = \text{rank}(B)$，选取正交矩阵 $U$，使得：
  $$U^T A U = \begin{pmatrix} A_{11} & A_{12} \ A_{21} & A_{22} \end{pmatrix}, \quad U^T B U = \begin{pmatrix} B_{11} & 0 \ 0 & 0 \end{pmatrix}$$
  其中 $A_{11}, B_{11}\in\mathbb{R}^{r\times r}$ 是正定矩阵，$A_{22}\in\mathbb{R}^{(n-r)\times(n-r)}$ 也是正定矩阵。

由 $A\succeq B$ 可得 $\begin{pmatrix} A_{11}-B_{11} & A_{12} \ A_{21} & A_{22} \end{pmatrix}\succeq 0$，这必然推出 $A_{11}\succeq B_{11}\succ 0$。根据可逆情形的结论，我们有：
$$A_{11}^{-1}\preceq B_{11}^{-1}$$

此时，$B^\dagger$ 在 $\mathcal{R}(B)$ 上的限制是 $B_{11}^{-1}$，在 $\mathcal{R}(B)^\perp$ 上是0；而 $A^{-1}$ 在 $\mathcal{R}(B)^\perp$ 上是正定矩阵（对应分块中的 $(2,2)$ 块）。这就导致：

• 在 $\mathcal{R}(B)$ 上：$B^\dagger$ 的限制 $B_{11}^{-1}\succeq A_{11}^{-1}$，但 $A^{-1}$ 的限制还包含一个额外的半正定项（来自Schur补），所以 $B^\dagger - A^{-1}$ 不一定半正定；
• 在 $\mathcal{R}(B)^\perp$ 上：$B^\dagger$ 是0，$A^{-1}$ 是正定矩阵，所以 $B^\dagger - A^{-1}$ 是负定矩阵。

这就是全局不等式无法成立的原因：$B$ 的零空间破坏了可逆情形的对称性。

3. 相关的局部不等式 #

对于 $\mathcal{R}(B)$ 内的向量，我们可以得到局部结论：若 $x\in\mathcal{R}(B)$，则 $x^T B^\dagger x \geq x^T A^{-1}x$。比如取 $A=\begin{pmatrix}2&0\0&1\end{pmatrix}$，$B=\begin{pmatrix}1&0\0&0\end{pmatrix}$，$x=(1,0)^T\in\mathcal{R}(B)$，则 $x^T B^\dagger x=1 > 1/2 = x^T A^{-1}x$，符合这个局部不等式。但对于 $\mathcal{R}(B)$ 外的向量，这个不等式会反转（比如反例中的 $x=(0,1)^T$，$xT B^\dagger x=0 < 1 = x^T A^{-1}x$）。

总结一下：

• 全局不等式 $A^{-1}\preceq B^\dagger$ 不成立；
• 这种关系最好通过值域包含和子空间受限的可逆情形不等式来刻画。

内容的提问来源于stack exchange，提问作者space_voyager