在何种条件下应选择自编码器而非核主成分分析（kernel PCA）？

最近我一直在钻研用自编码器和核主成分分析（kernel PCA）做无监督特征提取的相关内容，先从线性PCA这个基础点展开聊聊吧。

我梳理下来有个关键结论：当单隐藏层自编码器采用线性激活函数，并且以平方误差和作为损失函数（选这个损失函数主要是图计算便捷，不是从统计相关性角度出发）时，模型的权重参数存在唯一解。

这个结论其实不难推导，我们只要从自编码器的输入$\boldsymbol{x}$对应的平方误差和损失函数展开分析就能明白……

内容的提问来源于stack exchange，提问作者user2350366