多元高斯核中马氏白化疑问:为何Λ^(1/2)未取逆?
嘿,作为经常啃这类数值计算与非线性滤波论文的人,我来帮你拆解这个最棘手的问题。咱们先从论文的上下文和高斯核的基本逻辑说起:
首先,先明确论文里的核心设定:他们的高斯核应该是形如 exp(-(x - ξ)^T Λ (x - ξ)) 的形式,其中Λ是正定对称的精度矩阵(对应协方差矩阵Σ=Λ⁻¹)。你疑惑的点是,在s(权重)和ξ(近似中心)的表达式里,为什么没有出现Λ^(1/2)的逆——其实答案藏在他们的推导细节里,主要有两个关键原因:
1. 隐含的标准化变量替换
Mittelman和Miller在推导快速高斯变换(FGT)的低秩近似时,大概率做了变量标准化变换:
令 x' = Λ^(1/2) x,ξ' = Λ^(1/2) ξ,这时候原始的高斯核会被简化成 exp(-||x' - ξ'||²) 的标准欧氏距离形式。
在这个变换后的空间里构造近似加权和时,s和ξ都是基于x'和ξ'定义的——也就是说,Λ^(1/2)的逆操作其实是隐含在“如果要把结果还原回原始x空间”的步骤里,但在公式6展示的近似公式本身中,不需要额外体现逆,因为所有变量已经是标准化后的形式了。
2. HOSVD低秩分解的整合处理
他们用高阶奇异值分解(HOSVD)对高维高斯核做低秩近似时,已经把Λ的缩放效应直接嵌入到了分解后的基向量和权重中:
比如,高维高斯核被分解为多个一维高斯函数的乘积,每个一维高斯的缩放参数已经被Λ(1/2)调整过,对应的权重s也包含了与Λ行列式相关的项(比如`det(Λ)^(1/2)`),这就抵消了对Λ(1/2)取逆的需求。简单来说,逆的影响已经被提前整合到了s和ξ的计算逻辑里,不需要在最终公式里单独写出来。
如果还是觉得模糊,建议回头看论文中公式6之前的推导(比如公式3到公式6的过渡),那里应该有明确的变量替换或分解步骤,能更直观地看到Λ的处理过程。
内容的提问来源于stack exchange,提问作者Jabby

