复Hilbert空间紧算子极分解中<Txᵢ,xⱼ>的正交性判定问题

先把问题明确下来：

设$T:H\rightarrow H$为紧算子（$H$为复Hilbert空间），则$|T|=(T^*T){1/2}$是紧自伴算子。若${x_j}$是$(\ker |T|)^\perp$的标准正交基，试问当$i≠j$时，$\langle Tx_i,x_j\rangle=0$是否成立？

我当时试着用$T$的极分解$T=U|T|$（这里$U$是部分等距算子）来推导验证，过程是这样的：

• 首先，因为$|T|$是紧自伴算子，结合${x_j}$是$(\ker |T|)^\perp$的标准正交基，根据自伴紧算子的谱定理，存在非负实数列${\lambda_j}$（$|T|$的特征值），满足$|T|x_j = \lambda_j x_j$。
• 代入极分解式，$Tx_i = U|T|x_i = \lambda_i Ux_i$，所以$\langle Tx_i, x_j\rangle = \lambda_i \langle Ux_i, x_j\rangle$。
• 回忆部分等距算子的性质：$U$的初始空间是$\overline{\text{ran}|T|} = (\ker |T|)^{\perp$，因此在这个子空间上$U}*U$是恒等算子，也就是$U^*Ux_j = x_j$。

但推导到这里，没法直接得出$\langle Ux_i, x_j\rangle=0$的结论——因为$U$是把$(\ker |T|)^\perp$映射到$\overline{\text{ran}T}$，而${x_j}$属于$(\ker |T|)^\perp$，这两个子空间并没有必然的正交关系，$Ux_i$和$x_j$也不一定正交。

举个具体的反例就能说明问题：
取有限维Hilbert空间$H=\mathbb{C}^{2$，令$T$为矩阵$\begin{pmatrix}1&1\0&1\end{pmatrix}$（有限维空间上所有算子都是紧算子）。计算$T}*T=\begin{pmatrix}1&1\1&2\end{pmatrix}$，它的两个非零特征值对应的特征向量$x_1,x_2$构成$(\ker |T|)^\perp$的标准正交基（这里$\ker |T|$是零空间）。计算$\langle Tx_1,x_2\rangle$，会发现这个内积并不为0，这就直接说明原问题的答案是否定的——当$i≠j$时，$\langle Tx_i,x_j\rangle=0$不一定成立。

只有当$T$是正规算子（此时$U$是自伴的部分等距，也就是酉算子在初始空间上的限制）时，才会有$\langle Tx_i,x_j\rangle=0$对$i≠j$成立，但一般的紧算子并不满足正规性条件。

内容的提问来源于stack exchange，提问作者cdamle