带行平均约束的线性矩阵最小二乘问题求解咨询

嘿，我来帮你把这个问题的求解理清楚，顺便验证思路的可行性～首先咱们先把约束条件再明确下：因为$x = \frac{1}{n}\mathbf{1}n$（$\mathbf{1}n$是n维全1向量），所以约束$Bx = v$其实等价于矩阵$B$的每一行的均值等于$v$对应的元素——也就是对第$i$行来说，$\frac{1}{n}\sum{j=1}^n B{ij} = v_i$，或者说$\sum_{j=1}^n B_{ij} = n v_i$。

下面我用两种方法推导最优解，然后验证这个思路的正确性：

方法一：拉格朗日乘数法（经典约束优化思路） #

1. 构造拉格朗日函数
   目标函数是$|A - B|F^2 = \sum{i=1}^m\sum_{j=1}n (A_{ij} - B_{ij})^2$，约束是每行的和等于$n v_i$。我们给每行的约束引入一个拉格朗日乘子$\lambda_i$（共m个），拉格朗日函数就是：
   $$\mathcal{L}(B, \lambda) = \sum_{i,j}(A_{ij}-B_{ij})^2 + \sum_{i=1}^m \lambda_i\left(\sum_{j=1}^n B_{ij} - n v_i\right)$$

2. 求偏导找驻点
   对$B$的每个元素$B_{ij}$求偏导，然后令偏导数为0：
   $$\frac{\partial \mathcal{L}}{\partial B_{ij}} = -2(A_{ij} - B_{ij}) + \lambda_i = 0$$
   整理一下就能得到：$B_{ij} = A_{ij} - \frac{\lambda_i}{2}$——这说明最优解里，同一行的所有元素相对于$A$的偏移量是相同的，这个结论很直观对吧？

3. 代入约束求解乘子
   把上面的$B_{ij}$代入约束条件$\sum_{j=1}^n B_{ij} = n v_i$：
   $$\sum_{j=1}^n \left(A_{ij} - \frac{\lambda_i}{2}\right) = n v_i$$
   左边可以拆成$\sum_{j=1}^n A_{ij} - \frac{n \lambda_i}{2}$，而$\sum_{j=1}^n A_{ij} = n \bar{A}_i$（$\bar{A}_i$是$A$第i行的均值），所以代入后化简：
   $$n \bar{A}_i - \frac{n \lambda_i}{2} = n v_i$$
   两边除以n，就能解出$\lambda_i = 2(\bar{A}_i - v_i)$。

4. 得到最优解$B^*$
   把$\lambda_i$代回$B_{ij}$的表达式：
   $$B^*{ij} = A{ij} - (\bar{A}i - v_i) = A{ij} + (v_i - \bar{A}_i)$$
   说白了就是：给$A$的第i行的每个元素，都加上$(v_i - \bar{A}_i)$这个偏移量，让该行的均值刚好变成$v_i$，同时完全保留$A$行内的元素相对差异。

方法二：正交投影思路（更直观的几何视角） #

在弗罗贝尼乌斯范数下，这个最小二乘问题其实就是找$A$到满足约束的矩阵集合$\mathcal{C} = { B \in \mathbb{R}^{m \times n} | Bx = v }$的正交投影。

约束集合$\mathcal{C}$是一个仿射子空间：它的“基底”子空间是所有行均值为0的矩阵（也就是满足$Dx=0$的矩阵$D$），而$\mathcal{C}$是这个子空间平移后的结果——平移量就是让矩阵的行均值刚好等于$v_i$的部分。

我们可以把$A$拆成两部分：

• $A_c$：每行都是该行均值的全n维向量（也就是$A_c$的第i行是$\bar{A}_i \mathbf{1}_n$），这部分是$A$的“行均值成分”；
• $A_0 = A - A_c$：行均值全为0的矩阵，这部分是$A$的“行内差异成分”。

要满足约束，我们只需要把$A$的行均值成分替换成目标的$v_i$对应的成分，也就是$B_c$的第i行是$v_i \mathbf{1}n$，所以最优解就是：
$$B^* = A_0 + B_c = (A - A_c) + B_c$$
展开后就是$B^*{ij} = A_{ij} - \bar{A}_i + v_i$，和拉格朗日法得到的结果完全一致。

思路验证与可行性分析 #

这个解法的核心逻辑非常合理，而且完全可行：

• 从误差最小化的角度看，弗罗贝尼乌斯范数是元素级的平方误差和，要最小化这个误差，我们肯定要在满足约束的前提下让每个$B_{ij}$尽可能接近$A_{ij}$。而约束是每行的和固定，最优的调整方式只能是给每行的所有元素加同一个偏移量——如果给同一行的元素加不同的偏移，反而会额外增大平方误差，这完全不符合最小化的目标。
• 我们可以用反证法验证最优性：假设存在另一个满足约束的矩阵$\tilde{B}$，那么$\tilde{B} = B^* + D$，其中$D$是行均值为0的矩阵（因为$\tilde{B}x = v = B^x$，所以$Dx=0$）。计算$|A - \tilde{B}|_F^2$：
  $$|A - \tilde{B}|_F^2 = |(A - B^) - D|F^2 = |A - B^*|_F2 + |D|F^2 - 2\langle A - B^, D \rangle$$
  注意到$A - B^$的每行都是常数向量（值为$\bar{A}i - v_i$），而$D$的行均值为0，所以$\langle A - B^*, D \rangle = \sum{i,j} (A{ij}-B^*{ij})D_{ij} = \sum_i (\bar{A}i - v_i) \sum_j D{ij} = 0$。因此：
  $$|A - \tilde{B}|_F^2 = |A - B^*|_F2 + |D|_F^2 \geq |A - B^*|_F2$$
  等号只有当$D=0$（也就是$\tilde{B}=B^{*$）时成立，这就证明了$B}*$确实是唯一的最优解。

所以这个思路是完全正确的，而且计算起来非常简单：只需要先算出$A$每行的均值，然后给每行的每个元素加上$(v_i - \bar{A}_i)$就搞定了～

内容的提问来源于stack exchange，提问作者ALEXANDER