O(k)×O(n−k)在SO(n)中是否为闭子集？

我来帮你梳理这个问题的证明思路——结论是成立的：对于任意$k=1,\dots,n-1$，$(O(k)\times O(n-k))\cap SO(n)$都是$SO(n)$中的闭子集，哪怕是$k=1$的情况也不例外。

我们可以用序列收敛准则来证明（在赋予$\mathbb{R}^{n2}$子空间拓扑的$SO(n)$中，一个子集是闭的当且仅当它包含自身所有序列的极限点）：

• 假设我们有一个序列${A_m}_{m=1}^\infty$属于$(O(k)\times O(n-k))\cap SO(n)$，根据定义，每个$A_m$都能写成分块对角形式：
  $$A_m = \begin{pmatrix} B_m & 0 \ 0 & C_m \end{pmatrix}$$
  其中$B_m \in O(k)$，$C_m \in O(n-k)$，且满足$\det(B_m)\det(C_m)=1$（这保证了$A_m \in SO(n)$）。

• 若$A_m$在$SO(n)$中收敛到矩阵$A$（矩阵收敛是逐元素收敛，即$\mathbb{R}^{n2}$中的欧几里得拓扑收敛），那么$A$必然也是分块对角矩阵：
  $$A = \begin{pmatrix} B & 0 \ 0 & C \end{pmatrix}$$
  原因很简单：$A_m$的非对角块全为0，逐元素收敛的极限对应位置也只能是0，$B$是$B_m$的逐元素极限，$C$是$C_m$的逐元素极限。

• 接下来，$O(k)$是$\mathbb{R}^{k2}$中的闭子集（正交矩阵的定义是$B^TB=I_k$，这是一组多项式方程，解空间天然是闭的），所以$B_m$收敛到$B$意味着$B \in O(k)$；同理，$C \in O(n-k)$。

• 最后，行列式函数$\det: \mathbb{R}^{m\times m} \to \mathbb{R}$是连续函数，因此$\det(B_m)\det(C_m)$的极限就是$\det(B)\det(C)$。由于所有$\det(B_m)\det(C_m)=1$，所以$\det(B)\det(C)=1$。同时，$SO(n)$本身是$\mathbb{R}^{n2}$中的闭子集（行列式为1的正交矩阵，行列式连续，$O(n)$是闭集，故原像闭），因此$A \in SO(n)$。

综上，$A$完全满足$(O(k)\times O(n-k))\cap SO(n)$的定义，也就是说这个子集包含了自身所有序列的极限点，因此它在$SO(n)$中是闭的。

举个$k=1$的具体例子：比如$n=2$时，$(O(1)\times O(1))\cap SO(2)$就是两个矩阵$\begin{pmatrix}1&0\0&1\end{pmatrix}$和$\begin{pmatrix}-1&0\0&-1\end{pmatrix}$，这两个点在$SO(2)$（单位圆拓扑）中显然是闭集，符合我们的结论。

内容的提问来源于stack exchange，提问作者user41467