约束投影矩阵上的最小化问题：是否存在优雅解法？

这个问题的结构藏着不少可挖掘的几何和代数性质，咱们一步步拆解来看，说不定能找到简洁的解法方向：

先明确目标函数的几何意义 #

首先，目标函数可以拆解为两个核心部分：

• 第一项 $\sum_i a_i^\top C_i a_i$：本质是每个向量 $a_i$ 在子空间 $\mathcal{R}(B) \cap \mathcal{R}(A_i^\top)$ 上投影的范数平方和（因为投影矩阵 $C_i$ 满足 $x^\top C_i x = |C_i x|^2$）。
• 第二项 $\left( \sum_i C_i a_i \right)^\top \left( \sum_i C_i \right)^{-1} \left( \sum_i C_i a_i \right)$：这是对所有投影向量 ${C_i a_i}$ 做的一种「加权平均投影」的范数平方，权重由 $\sum_i C_i$ 给出。

整体来看，这个目标函数其实是在最小化各投影向量相对于它们加权平均的离散程度，和统计学里的「组内方差」有很强的相似性。

优雅解法的核心方向 #

1. 转化为子空间优化，摆脱矩阵B的冗余 #

因为优化变量 $B$ 的核心是它的列空间 $\mathcal{V} = \mathcal{R}(B)$（任何张成同一子空间的矩阵 $B$ 对应的 $C_i$ 都是相同的），所以可以把问题转化为在Grassmann流形（所有n维空间中h维子空间的集合）上优化，而不是直接优化矩阵B。

这种转化能帮我们聚焦于几何本质，避免处理B的冗余自由度（比如列的正交化、缩放等）。

2. 利用投影矩阵性质简化目标函数 #

结合题目给出的Anderson-Duffin公式 $C_i = 2P_{A_i}(P_{A_i} + P_B)^\dagger P_B$，以及投影矩阵的基本性质（$P = P^\top = P^2$），我们可以把目标函数改写为迹的形式，让代数操作更清晰：
$$
\min_{\mathcal{V}} \text{tr}\left( \sum_i C_i a_i a_i^\top \right) - \text{tr}\left( \left( \sum_i C_i \right)^{-1} \left( \sum_i C_i a_i \right) \left( \sum_i C_i a_i \right)^\top \right)
$$

如果我们进一步设 $B$ 为正交基矩阵（即 $B^\top B = I_h$），那么 $P_B = B B^\top$，代入后可以通过矩阵求导推导最优子空间 $\mathcal{V}$ 满足的条件——最终会得到一个关于 $B$ 的特征值问题或矩阵方程，这就是闭式解的雏形。

3. 从低维情况推广到一般情况 #

先看 $h=1$ 的简单场景：此时 $\mathcal{V}$ 是一维子空间（单位向量 $b$），$C_i$ 要么是 $bb^\top$（当 $b \in \mathcal{R}(A_i^\top)$），要么是零矩阵（否则）。目标函数会简化为：
$$
\sum_{i: b \in \mathcal{R}(A_i^\top)} (a_i^\top b)^2 - \frac{\left( \sum_{i: b \in \mathcal{R}(A_i^\top)} a_i^\top b \right)^2}{|{i: b \in \mathcal{R}(A_i^\top)}|}
$$
这正是样本方差乘以样本数量，所以问题转化为找单位向量 $b$，使得它所在的 $A_i$ 行空间集合对应的样本方差最小。

把这个思路推广到高维，最优的h维子空间 $\mathcal{V}$ 应该是由h个这样的「最小方差方向」张成的，这能帮我们快速定位解的结构。

4. 半定规划的备选方案 #

如果闭式解推导遇到困难，还可以把问题转化为半定规划（SDP）：利用投影矩阵的半定性质（$C_i \succeq 0$，$C_i = C_i^\top$，$C_i2 = C_i$），将目标函数和约束转化为SDP形式，用成熟的SDP求解器得到数值解——这虽然不是解析闭式解，但属于结构化的优雅数值解法。

总结 #

这个问题的「优雅」解法核心在于抓住子空间的几何本质，通过转化优化变量、利用投影矩阵的代数性质，要么推导得到闭式的特征值/矩阵方程解，要么转化为结构化的数值优化问题。如果你的场景中 $h$ 较小或者 $A_i$ 有特殊结构（比如所有 $A_i$ 相同），还能得到更简洁的解析结果。

内容的提问来源于stack exchange，提问作者yig