关于条件期望$E[f(X)|X]=f(X)$的证明疑问(无测度论基础)
嘿,我完全懂你这种卡在基础概念上的感觉!没学测度论的话,确实不用硬啃那些抽象的术语,咱们从最直观的离散和连续情况分别说,保证你能get到~
先从你提到的简单情况$E[X|X]=X$说起,再推广到$E[f(X)|X]=f(X)$。
离散随机变量的情况
你已经写到了条件期望的公式:
$$E[X \mid X = x'] = \sum_{x} x \frac{P(X=x, X = x')}{P(X = x')}$$
咱们接着往下推:
- 当$x \neq x'$时,$X$同时等于$x$和$x'$的概率肯定是0,所以这部分求和项直接消失;
- 当$x = x'$时,分子$P(X=x, X=x')$其实就是$P(X=x')$,因为只有$X=x'$的时候这个联合概率才不为0。
代入公式的话,就只剩下$x' \times \frac{P(X=x')}{P(X=x')} = x'$。而这里的$x'$其实就是$X$的取值呀——当我们说“给定$X=x'$”时,$X$的取值就是$x'$,所以$E[X|X=x'] = x'$,把$x'$换成$X$的话,自然就是$E[X|X] = X$了。
再推广到$E[f(X)|X]$:
同样用离散的条件期望公式:
$$E[f(X) \mid X = x'] = \sum_{x} f(x) \frac{P(X=x, X = x')}{P(X = x')}$$
和刚才一样,只有当$x=x'$时,求和项才不为0,这时候$f(x)=f(x')$,代入后就是$f(x') \times \frac{P(X=x')}{P(X=x')} = f(x')$,换成$X$的话就是$E[f(X)|X] = f(X)$,是不是很直观?
连续随机变量的情况
不用测度论的话,咱们用条件概率密度来理解。条件期望的公式是:
$$E[X \mid X = x'] = \int_{-\infty}^{+\infty} x \cdot f_{X|X}(x|x') dx$$
这里的条件概率密度$f_{X|X}(x|x')$是什么呢?当给定$X=x'$时,$X$只能取$x'$这个值,所以它是一个狄拉克δ函数(你可以理解成在$x=x'$处无限高、面积为1的“尖峰”),也就是$f_{X|X}(x|x') = \delta(x - x')$。
代入积分的话,$\int_{-\infty}^{+\infty} x \cdot \delta(x - x') dx = x'$,同样的,这就等于$X$在给定条件下的取值,所以$E[X|X] = X$。
推广到$f(X)$的话,$E[f(X)|X=x'] = \int_{-\infty}^{+\infty} f(x) \cdot \delta(x - x') dx = f(x')$,也就是$E[f(X)|X] = f(X)$。
其实本质上,这个结论的核心逻辑很简单:当我们“给定$X$”时,$X$的取值已经确定了,那$f(X)$的取值也跟着确定了,它的期望就是它本身——毕竟一个确定的数的期望就是它自己嘛!
备注:内容来源于stack exchange,提问作者R24698




