关于函数期望公式推导的疑问及正式证明请求
嘿,这个问题问得特别好——很多刚入门概率论的同学都会有这种直觉上的误区,咱们一步步把它掰扯清楚。
你觉得直接把$g(X)$替换原期望定义里的$X$就完事了,这个想法的核心问题在于:期望的定义是针对随机变量的「取值集合」和「对应概率」来构建的,但$g(X)$作为新的随机变量,它的取值集合和原$X$的取值集合可能并不一一对应,对应的概率计算也不能直接照搬原$X$的概率,这层逻辑关系需要严谨推导,不能直接跳步。
举个简单例子:假设$X$的取值是1和2,$g(X)=X^2$,那$g(X)$的取值就是1和4,对应的概率分别是$P(X=1)$和$P(X=2)$,这时候直接替换好像没问题;但如果$g(X)=|X-1.5|$,那$X=1$和$X=2$时$g(X)$都等于0.5,这时候$g(X)=0.5$的概率是$P(X=1)+P(X=2)$。从$g(X)$的期望定义出发,应该是$0.5*(P(X=1)+P(X=2))$,而用$\sum g(x)P(X=x)$计算的话是$0.5P(X=1)+0.5P(X=2)$,两者数值相等,但推导过程不能直接默认它们等价,必须证明这种求和方式的转换是成立的。
下面给你一个离散随机变量场景下的正式证明:
假设$X$是离散型随机变量,所有可能取值为$x_1, x_2, x_3,...$,对应的概率为$P(X=x_i)=p_i$。令$Y = g(X)$,$Y$的所有不同取值为$y_1, y_2, y_3,...$,对每个$y_j$,定义集合$S_j = {x_i \mid g(x_i)=y_j}$(也就是所有让$g(X)$等于$y_j$的$X$的取值)。
根据期望的原始定义,$Y$的期望为:
$$E(Y) = \sum_{j=1}^{\infty} y_j P(Y=y_j)$$
而$P(Y=y_j)$本质上是$X$取到$S_j$中任意值的概率,即:
$$P(Y=y_j) = P(X \in S_j) = \sum_{x_i \in S_j} P(X=x_i)$$
把这个代入$E(Y)$的表达式:
$$E(Y) = \sum_{j=1}^{\infty} y_j \left( \sum_{x_i \in S_j} P(X=x_i) \right)$$
因为对所有$x_i \in S_j$,都有$y_j = g(x_i)$,所以我们可以把双层求和拆成对所有$x_i$的单层求和(相当于把每个$y_j$对应的项展开,合并到对应的$x_i$上):
$$E(Y) = \sum_{i=1}^{\infty} g(x_i) P(X=x_i)$$
这样就严谨地证明了$E(g(X)) = \sum_{x=1}^{\infty} g(x) P(X=x)$和期望原始定义的等价性。
最后补充一句:你的直觉方向完全正确,结果确实一致,但数学里的“替换”需要逻辑支撑,尤其是当$g$不是一一映射的时候,必须证明两种求和方式的等价性——这就是教授说“需要用定义证明但不太容易”的原因,核心是要处理好取值集合的对应关系,不能直接跳步。
备注:内容来源于stack exchange,提问作者Algo

