为何独立随机变量的条件期望具备该性质?附文献推导参考
这是个很关键的概率理论问题,我们可以结合独立性和富比尼定理来一步步拆解这个结论:
首先先明确完整的结论表述(结合你提到的专著内容补充完整):
设$f: \mathcal{X}^n \to \mathbb{R}$为可测函数($\mathcal{X}$为某可测空间),$X_1, \dots, X_n$为取值于$\mathcal{X}$的独立随机变量,则有:
$$\mathbb{E}[f(X_1, \dots, X_n)| X_1, \dots, X_i] = \int_{\mathcal{X}^{n-i}} f(X_1, \dots, X_i, x_{i+1}, \dots, x_n) \prod_{j=i+1}^n \mathbb{P}_{X_j}(dx_j)$$
核心推导逻辑
1. 先锚定条件期望的定义
条件期望$\mathbb{E}[f(X_1,\dots,X_n)|X_1,\dots,X_i]$本质是一个关于$X_1,\dots,X_i$的可测函数,它需要满足:对任意由$X_1,\dots,X_i$生成的可测集合$A$,都有
$$\int_A \mathbb{E}[f(X_1,\dots,X_n)|X_1,\dots,X_i] d\mathbb{P} = \int_A f(X_1,\dots,X_n) d\mathbb{P}$$
2. 利用独立性拆分测度
因为$X_{i+1},\dots,X_n$与$X_1,\dots,X_i$相互独立,所以整个联合概率测度可以拆分为边缘测度的乘积:
$$\mathbb{P}{X_1,\dots,X_n} = \mathbb{P}{X_1,\dots,X_i} \times \mathbb{P}{X{i+1},\dots,X_n}$$
而$\mathbb{P}{X{i+1},\dots,X_n}$又可以进一步拆成单个变量边缘测度的乘积$\prod_{j=i+1}^n \mathbb{P}_{X_j}$。
3. 用富比尼定理交换积分顺序
根据富比尼定理(要求积分绝对可积,这在$f$可测且满足适当可积性条件下成立),我们可以把联合积分拆成两步:先固定$X_1,\dots,X_i$的值,对$X_{i+1},\dots,X_n$的取值空间积分,再对$X_1,\dots,X_i$的取值空间积分:
$$\int_A f(X_1,\dots,X_n) d\mathbb{P} = \int_A \left( \int_{\mathcal{X}^{n-i}} f(X_1,\dots,X_i,x_{i+1},\dots,x_n) d\mathbb{P}{X{i+1},\dots,X_n}(x_{i+1},\dots,x_n) \right) d\mathbb{P}_{X_1,\dots,X_i}$$
对比条件期望的定义,不难发现括号里的积分正好就是满足要求的可测函数——它完全由$X_1,\dots,X_i$决定,并且符合积分等式的要求,这就证明了我们的结论。
参考文献
请参阅Boucheron、Lugosi、Massart所著《Concentration Inequalities: A Nonasymptotic Theory of Independence》第53-54页。
内容的提问来源于stack exchange,提问作者Chill2Macht

