关于“几何级数技巧”在瑞利商迭代收敛证明中应用的问询
咱们先把几何级数技巧的核心说清楚：它本质上是借助几何级数的收敛性和闭合求和公式，来控制递推过程中累积的误差项。简单来讲，当你在推导中遇到每一步误差都是前一步误差的某个常数倍（且这个常数小于1），或者需要展开一个无穷级数来表示某个算子/误差时，就可以用几何级数求和公式$\sum_{n=k}^\infty r^n = \frac{r^k}{1-r}$（其中$0<r<1$）把这些累加的误差转化成一个可以直接估计上界的闭合形式，避免处理无穷项的麻烦——这就是这个技巧的核心用途：把“无限的递推误差”变成“有限的可估计边界”。
接下来回到你课堂里的厄米特矩阵瑞利商迭代收敛速率引理证明，咱们具体说它怎么用：
首先回忆瑞利商迭代的基本逻辑：对于厄米特矩阵$A$，第$k$步有近似单位特征向量$x_k$，对应的瑞利商$\rho_k = x_k^* A x_k$，下一步迭代是$x_{k+1} = (A - \rho_k I)^{-1}x_k / |(A - \rho_k I)^{-1}x_k|$。要证明收敛速率，关键是推导误差（比如特征值误差$|\rho_k - \lambda|$，或特征向量与真实特征向量的夹角$\theta_k$）的递推关系。
在证明过程中，几何级数技巧主要用在逆算子$(A - \rho_k I)^{-1}$的展开与范数估计上：
- 因为$A$是厄米特矩阵，可对角化，所以$(A - \rho_k I)^{-1}$可以分解为对各个特征空间的投影算子的线性组合：$(A - \rho_k I)^{-1} = \sum_{i} \frac{1}{\lambda_i - \rho_k} P_i$，其中$\lambda_i$是$A$的特征值，$P_i$是对应特征空间的投影算子。
- 当迭代到第$k$步时，$\rho_k$已经足够接近目标特征值$\lambda$（收敛的前提），此时对于其他特征值$\lambda_i \neq \lambda$，有$|\lambda - \rho_k| < |\lambda_i - \lambda|$（设最小距离为$\delta = \min_{i \neq j}|\lambda_i - \lambda|$），那么$\frac{1}{\lambda_i - \rho_k}$可以写成：
$$\frac{1}{(\lambda_i - \lambda) + (\lambda - \rho_k)} = \frac{1}{\lambda_i - \lambda} \cdot \frac{1}{1 + \frac{\lambda - \rho_k}{\lambda_i - \lambda}}$$ - 这里的$\frac{1}{1 + t}$（其中$t = \frac{\lambda - \rho_k}{\lambda_i - \lambda}$，且$|t| < 1$）就可以用几何级数展开：$\frac{1}{1 + t} = \sum_{n=0}^\infty (-t)^n$。
- 接下来用几何级数求和公式估计这个级数的范数：因为$|t| < \frac{|\rho_k - \lambda|}{\delta} < 1$，所以$\sum_{n=0}^\infty |t|^n = \frac{1}{1 - |t|} \leq \frac{1}{1 - \frac{|\rho_k - \lambda|}{\delta}}$，当$|\rho_k - \lambda| < \delta/2$时，这个上界可以进一步简化为2，这样就得到了$|(A - \rho_k I)^{-1} P_{V^\perp}| \leq \frac{2}{\delta}$（$P_{V^\perp}$是投影到$\lambda$特征空间正交补的算子）。
有了这个范数估计，就能进一步推导下一步迭代的误差：比如特征向量夹角的误差$\sin\theta_{k+1}$会和$(\sin\theta_k)^2$成正比（这就是瑞利商迭代二次收敛的来源），或者特征值误差$|\rho_{k+1} - \lambda|$会和$|\rho_k - \lambda|^2$成正比——整个过程中，几何级数技巧帮我们把逆算子的无穷级数展开转化成了一个可控制的上界，从而顺利完成收敛速率的推导。
内容的提问来源于stack exchange，提问作者KDecker
