为何输入微小扰动会导致PCA结果剧变？兼顾旋转平移不变性的降维方案

我使用PCA将N×3数组降维为N×2数组，核心原因是该PCA变换（输出N×2矩阵）对原N×3数组执行的旋转、平移操作具有不变性，以下为示例：

import numpy as np
from sklearn.decomposition import PCA
a = np.array([[0.5  , 0.5  , 0.5  ],
              [0.332, 0.456, 0.751],
              [0.224, 0.349, 0.349],
              [0.112, 0.314, 0.427]])
pca = PCA(n_components=2, svd_solver='full', random_state=10)
print(pca.fit_transform(a))

运行后得到如下输出：注意由于平移不变性，执行print(pca.fit_transform(a-L))（其中L为任意数值）可得到相同输出，对数组执行旋转操作后结果也一致。

[[ 0.16752654  0.15593431]
 [ 0.20568992 -0.14688601]
 [-0.16899598  0.06364857]
 [-0.20422047 -0.07269687]]

现在我对数组a施加约1%的微小扰动，再执行PCA运算：

a_p = np.array([[0.51 , 0.53 , 0.52 ],
       [0.322, 0.452, 0.741],
       [0.217, 0.342, 0.339],
       [0.116, 0.31 , 0.417]])
pca = PCA(n_components=2, svd_solver='full', random_state=10)
print(pca.fit_transform(a_p))

运算结果如下，与原数组的PCA降维结果差异极大：

[[-0.2056024 , -0.14346977]
 [-0.18563578  0.15627932]
 [ 0.17974942 -0.07001969]
 [ 0.21148876  0.05721014]]

我原本预期扰动数组的PCA变换结果应与原数组高度相似，但实际变化幅度极大。请问出现该现象的原因是什么？是否有方法能让仅存在微小扰动/波动的数组得到高度近似的PCA变换结果？
我已知可在第二种场景下仅调用transform操作（例如pca.transform(a_p)）得到近似结果，但这种方式会丢失针对a_p的旋转、平移不变性。
该问题源于结晶学场景的实际需求：我所用的降维变换（无论是否为PCA）需要同时满足两个要求：一是对输入的微小变化不敏感，二是对输入的旋转、平移操作具有不变性。请帮忙解释上述现象，或推荐能满足我需求的替代方法。 #

结果跳变的核心原因 #

你感知到的“差异极大”，本质不是数据投影的真实结构变了，而是两个固有机制叠加导致的输出歧义：

• 首先，标准PCA的输出本身存在两个无约束的自由度：
  • 主成分方向无符号要求：同一个特征向量取反，完全满足PCA的方差最大化求解目标，求解器不会强制固定方向的正负
  • 主成分顺序无强约束：当两个主成分的解释方差非常接近时，哪个轴排第一、哪个排第二的顺序没有强制规则
• 其次，你当前的样本量仅为4个，本身协方差矩阵就是高度退化的：两个主成分的解释方差占比差不到1%，完全在1%扰动的影响范围内。稍微改动数据，就会触发主成分的符号翻转、轴顺序互换，最终打印出来的矩阵看起来和原结果天差地别。
  实际上把扰动后的输出调整成和原结果一致的符号、轴顺序后，数值差异不到10%，完全符合微小扰动的影响量级，并不是真的出现了结果的剧烈偏移。你代码里用的是svd_solver='full'，求解过程本身是确定性的，和随机种子设置无关，所以这种跳变完全是特征值间隙过窄导致的固有数值不稳定，不是求解器的随机误差。
• 另外你之前对PCA旋转不变性的认知存在偏差：PCA的旋转不变性指的是对原数组做任意正交旋转后，重新拟合得到的PCA投影和原结果是几何等价的（仅存在符号、顺序的差异），不是说矩阵元素完全相等。当特征值间隙极小时，这种等价关系的稳定性会被微小扰动打破，最终输出的歧义性就会直接暴露。

满足双需求的实现方案 #

针对你结晶学场景下“微小扰动鲁棒 + 旋转/平移不变”的要求，不需要彻底抛弃PCA，按优先级选下面的方案即可：

• 最低成本的改造方案：给PCA的输出加固定约束，消除输出歧义
  • 固定主成分的符号规则：比如约定每个主成分的方向，必须和原数据集的第一个坐标方向的点积为正，彻底避免符号翻转
  • 严格按解释方差从大到小排序主成分，哪怕两个主成分的方差差极小，也不随意调换顺序
    这个方案完全不改动PCA本身的求解逻辑，100%保留原有的旋转、平移不变性，只要把输出歧义锁死，微小扰动下的结果就会高度近似。
• 如果样本量太小导致特征值间隙过窄、约束也压不住跳变，就给协方差矩阵加正则化：计算协方差矩阵时，给对角线加一个极小的阻尼项（比如1e-6倍的单位矩阵），人为拉大特征值之间的间隙，从根源上避免微小扰动导致的特征向量方向跳变。
• 如果鲁棒性要求更高，直接换结晶学场景通用的不变描述符，比如径向分布函数（RDF）、角度分布函数（ADF）：这类方法直接从点集的内部几何关系（点对距离、邻域角度分布）提取特征，不依赖外部坐标系，天生对平移、旋转不敏感，而且因为是统计聚合的特征，对单个点的微小扰动鲁棒性远好于PCA。

注意：不要为了追求扰动鲁棒性就跳过独立PCA拟合步骤直接用固定PCA的transform，这种方式确实会丢失旋转、平移不变性，只要把PCA输出本身的歧义性约束住，完全可以在保留原有几何不变性的前提下实现对微小扰动的稳定输出。

内容的提问来源于stack exchange，提问作者Achintha Ihalage