证明独立同分布随机变量的条件期望等式$E[X_i|S_n ] = \frac{S_n}{n}$
已知$X_1, X_2, ..., X_n$是期望有限的独立同分布(iid)随机变量,定义$S_n = \sum_{k=1}^n X_k$,我们需要严格推导对任意$1 \leq i \leq n$,$E[X_i|S_n] = \frac{S_n}{n}$。你提到的核心疑问是如何严谨证明$E[X_i|S_n] = E[X_j|S_n]$,下面一步步来:
关键步骤:证明$E[X_i|S_n] = E[X_j|S_n]$(几乎处处)
我们从条件期望的定义和iid的置换不变性入手:
置换不变性分析
考虑交换第$i$和$j$个变量的置换$\sigma$:$\sigma(i)=j$,$\sigma(j)=i$,对$k \neq i,j$有$\sigma(k)=k$。由于$X_1,...,X_n$是iid的,随机向量$(X_1,...,X_n)$和$(X_{\sigma(1)},...,X_{\sigma(n)})$同分布。
同时,$S_n = \sum_{k=1}^n X_k = \sum_{k=1}^n X_{\sigma(k)}$,即$S_n$在置换$\sigma$下完全不变。利用条件期望的定义推导相等性
条件期望$E[X_i|S_n]$是唯一的$\sigma(S_n)$-可测随机变量,满足对任意$\sigma(S_n)$-可测集合$B$,有:
$$E\left[ X_i \cdot I_B \right] = E\left[ E[X_i|S_n] \cdot I_B \right]$$
其中$I_B$是集合$B$的指示函数。由于$(X_1,...,X_n)$和$(X_{\sigma(1)},...,X_{\sigma(n)})$同分布,且$B$是$\sigma(S_n)$-可测的($S_n$置换不变,所以$I_B$也置换不变),因此:
$$E\left[ X_i \cdot I_B \right] = E\left[ X_{\sigma(i)} \cdot I_B \circ \sigma \right] = E\left[ X_j \cdot I_B \right]$$对应到条件期望的等式,就有:
$$E\left[ E[X_i|S_n] \cdot I_B \right] = E\left[ E[X_j|S_n] \cdot I_B \right]$$因为上式对所有$\sigma(S_n)$-可测集合$B$都成立,且$E[X_i|S_n]$、$E[X_j|S_n]$都是$\sigma(S_n)$-可测的,根据条件期望的唯一性,我们可以得出:
$$E[X_i|S_n] = E[X_j|S_n] \quad \text{几乎处处成立}$$
完成最终推导
有了上面的结论,结合条件期望的线性性,我们可以快速完成证明:
对$S_n = \sum_{k=1}^n X_k$两边取关于$\sigma(S_n)$的条件期望:
$$E[S_n|S_n] = \sum_{k=1}^n E[X_k|S_n]$$
左边$E[S_n|S_n] = S_n$(因为$S_n$是自身生成的$\sigma$-域可测的),右边每个$E[X_k|S_n]$都相等,设为$Y$,则:
$$S_n = nY$$
两边除以$n$,直接得到:
$$E[X_i|S_n] = \frac{S_n}{n} \quad \text{几乎处处成立}$$
内容的提问来源于stack exchange,提问作者anktsdmcknsy

