如何对同一真实值的多组异噪声估计值加权以优化真实值估计？

嘿，这个问题我太熟悉了——当你有多个带不同噪声水平的测量值要估计单一真实值时，逆方差加权平均（本质是加权最小二乘估计）是公认的最优方案，尤其在噪声为零均值独立高斯噪声的场景下，它能给出无偏且方差最小的估计结果。

核心思路与公式 #

先明确问题模型：假设我们要估计的真实值是$\theta$，第$i$组测量结果为$x_i = \theta + \varepsilon_i$，其中$\varepsilon_i$是零均值的高斯噪声，方差为$\sigma_i^2$，且各组噪声相互独立。

最优融合后的估计值$\hat{\theta}$计算公式为：

θ̂ = (Σ(x_i / σ_i²)) / (Σ(1/σ_i²))

简单来说，就是给每个测量值分配一个和自身噪声方差成反比的权重——噪声越大（方差$\sigma_i^2$越高）的测量结果，权重越低，对最终估计的影响越小；反之，噪声越小的测量，权重越高，贡献越大。

为什么这是最优的？ #

• 从统计理论角度，根据高斯马尔可夫定理，在噪声零均值、独立的前提下，这种加权方式得到的估计是最优线性无偏估计（BLUE）——所有线性无偏估计里，它的方差最小。
• 如果噪声严格服从高斯分布，这个估计同时也是最大似然估计（MLE）和最小方差无偏估计（MVUE），完全符合“最优”的定义。

举个实际例子 #

假设你有三组测量值：

• $x_1 = 5$，噪声方差$\sigma_1^2 = 1$（噪声小，可信度高）
• $x_2 = 6$，噪声方差$\sigma_2^2 = 4$（噪声大，可信度低）
• $x_3 = 5.5$，噪声方差$\sigma_3^2 = 2$（噪声中等）

计算权重：$1/\sigma_1^{2=1$，$1/\sigma_2}2=0.25$，$1/\sigma_3^2=0.5$
分子总和：$51 + 60.25 +5.5*0.5 = 5 + 1.5 + 2.75 = 9.25$
分母总和：$1 + 0.25 + 0.5 = 1.75$
最终估计值：$\hat{\theta} = 9.25 / 1.75 ≈ 5.2857$
这个结果更靠近噪声最小的$x_1$，完全符合我们对“可信结果权重更高”的预期。

特殊情况与延伸 #

• 如果你之前看的噪声一致场景，本质是所有$\sigma_i^2$相等，此时权重都为$1/N$，公式就退化为算术平均，和你查阅的内容完全对应。
• 如果不知道每组的噪声方差怎么办？你可以通过重复测量同一组得到样本方差，或者从测量设备的技术参数中获取参考值；如果实在无法估计，只能退化为算术平均，但这是次优方案，精度会打折扣。

内容的提问来源于stack exchange，提问作者Raffles