关于Eckhart-Young定理证明片段的中文翻译及完整证明推导问询
Hey there! 我来帮你整理这段Eckhart-Young定理的证明片段，同时补上截断部分的完整推导逻辑～
原始证明片段（含内容截断）
Let $B$ minimize $\vert \vert \boldsymbol{A} - B\vert \vert_{F}^2$ among all rank $k$ or less matrices. Let $V$ be the space spanned by the rows of $B$. The dimension of $V$ is at most $k$. Since $B$ minimizes $\vert \vert \boldsymbol{A} - B\vert \vert _{F}^2$, it must be that each row of $B$ is the projection of the corresponding row of $\boldsymbol{A}$ onto $V$...（原文内容截断）
对应中文翻译
设$B$是所有秩不超过$k$的矩阵中，使$\boldsymbol{A}$与$B$的Frobenius范数平方差$\vert \vert \boldsymbol{A} - B\vert \vert_{F}^2$取得最小值的矩阵。令$V$为由$B$的行向量张成的线性空间，$V$的维数至多为$k$。由于$B$使该范数平方差最小，因此$B$的每一行都必须是$\boldsymbol{A}$对应行在$V$上的投影……（原文内容截断）
完整证明推导补全
我们从截断的地方继续推导，完整证明Eckhart-Young定理：
- 首先，根据投影的基本性质：原向量减去其在某空间上的投影后，所得向量与该空间正交。因此$\boldsymbol{A} - B$的每一行都与$V$正交，这意味着$\boldsymbol{A} - B$的行空间与$B$的行空间$V$是正交补空间的关系。
- 接下来，利用矩阵的奇异值分解（SVD）：设$\boldsymbol{A}$的SVD为$\boldsymbol{A} = U\Sigma V^T$，其中$U$是左奇异矩阵，$V$是右奇异矩阵，$\Sigma$是对角矩阵，对角元为$\boldsymbol{A}$的奇异值$\sigma_1 \geq \sigma_2 \geq \dots \geq \sigma_r > 0$（$r$是$\boldsymbol{A}$的秩），其余奇异值为0。
- 对于任意秩不超过$k$的矩阵$B$，我们可以将其表示为$B = U_k C V_k^T$（其中$U_k$是$U$的前$k$列，$V_k$是$V$的前$k$列，$C$是$k \times k$矩阵）。此时计算范数平方差：
$$\vert \vert \boldsymbol{A} - B\vert \vert_{F}^2 = \vert \vert U\Sigma V^T - U_k C V_k^T\vert \vert_{F}^2 = \vert \vert \Sigma - U^T U_k C V_k^T V\vert \vert_{F}^2$$
由于$U$和$V$是正交矩阵，$U^T U_k$是$k$阶单位矩阵，$V_k^T V$也是$k$阶单位矩阵，因此上式简化为：
$$\vert \vert \Sigma - \begin{pmatrix} C & 0 \ 0 & 0 \end{pmatrix}\vert \vert_{F}^2 = \sum_{i=1}^k (\sigma_i - C_{ii})^2 + \sum_{i=k+1}^r \sigma_i^2$$ - 要使这个值最小，显然当$C_{ii} = \sigma_i$（$i=1,\dots,k$）时，第一项的和为0，此时范数平方差取得最小值$\sum_{i=k+1}^r \sigma_i^2$，对应的矩阵$B = U_k \Sigma_k V_k^T$（$\Sigma_k$是前$k$个奇异值构成的对角矩阵），其秩恰好为$k$。
- 最后验证：这个截断SVD矩阵$B$的行空间正是由$V_k^T$的行张成的空间（维数为$k$），且$\boldsymbol{A}$的每一行在该空间上的投影恰好是$B$的对应行，完全符合之前的推导前提。
综上，我们就完整证明了Eckhart-Young定理：秩不超过$k$的矩阵中，使$\vert \vert \boldsymbol{A} - B\vert \vert_{F}^2$最小的矩阵是$\boldsymbol{A}$的截断奇异值分解矩阵，最小值为所有小于等于第$k$个奇异值的奇异值平方和。
备注：内容来源于stack exchange，提问作者batman08
