独立随机变量场景下，基于Y估计X的MMSE与LMSE估计器相关问题咨询

嘿，先给你的推导点个赞——你关于MMSE估计的结论完全正确！

当X和Y是独立随机变量时，不管X是连续型还是离散型，条件期望$E[X|Y]$确实等于$E[X]$：

• 连续型的情况你已经推导过了，把条件密度换成边际密度后积分结果就是X的均值；
• 离散型的话，把积分换成求和，$E[X|Y=y]=\sum_x xP(X=x|Y=y)=\sum_x xP(X=x)=E[X]$，结果是一样的。

这背后的逻辑很直观：既然X和Y独立，Y的取值就完全提供不了任何关于X的额外信息，所以用Y来估计X，本质上和不借助任何信息直接估计X（也就是“盲估计”）没有区别，最优的MMSE估计就是X的均值。

再来说你关心的LMSE估计器：
线性最小均方误差估计器$\hat{X}_L(Y)=aY + b$的最优系数是由协方差和方差决定的，公式是：
$$a = \frac{\text{Cov}(X,Y)}{\text{Var}(Y)}$$
$$b = E[X] - aE[Y]$$

当X和Y独立时，它们的协方差$\text{Cov}(X,Y)=E[XY]-E[X]E[Y]$，而独立变量的乘积期望等于期望的乘积，所以$\text{Cov}(X,Y)=E[X]E[Y]-E[X]E[Y]=0$，代入后得到$a=0$，进而$b=E[X]$。也就是说，这时候LMSE估计器也变成了$\hat{X}_L(Y)=E[X]$，和MMSE估计器完全一致。

总结一下：当X和Y独立时，不管是MMSE还是LMSE，最优估计结果都是X的期望$E[X]$，Y的取值对估计没有任何帮助，确实和盲估计X是一回事。

备注：内容来源于stack exchange，提问作者chippie2345