向量值随机变量的随机独立性推导及相关独立性问题求证
嘿,我来帮你梳理这两个关于随机向量独立性的问题,都是概率论里基础但关键的内容:
1. 推导向量值随机变量的随机独立性
我们先从大家熟悉的实值随机变量独立性入手,再自然推广到向量的情况。
对于两个实值随机变量 $X$ 和 $Y$,它们独立的核心定义是:不管你取什么样的实数 $a,b$,都满足
$P(X \leq a, Y \leq b) = P(X \leq a)P(Y \leq b)$
现在把这个逻辑扩展到向量值场景:假设我们有一个 $k$ 维随机向量 $\boldsymbol{X} = (X_1,X_2,...,X_k)$,还有一个 $m$ 维随机向量 $\boldsymbol{Y} = (Y_1,Y_2,...,Y_m)$。我们说这两个向量随机独立,当且仅当对任意的 $k$ 维实数向量 $\boldsymbol{a}=(a_1,...,a_k)$ 和 $m$ 维实数向量 $\boldsymbol{b}=(b_1,...,b_m)$,都满足:
$P(\boldsymbol{X} \leq \boldsymbol{a}, \boldsymbol{Y} \leq \boldsymbol{b}) = P(\boldsymbol{X} \leq \boldsymbol{a})P(\boldsymbol{Y} \leq \boldsymbol{b})$
这里的 $\boldsymbol{X} \leq \boldsymbol{a}$ 是“分量-wise”的条件,意思是每个 $X_i$ 都小于等于对应的 $a_i$($i=1,...,k$),$\boldsymbol{Y} \leq \boldsymbol{b}$ 同理。
如果从测度论的深度推导,这个定义等价于:由 $\boldsymbol{X}$ 生成的 $\sigma$-代数 $\sigma(\boldsymbol{X})$,和由 $\boldsymbol{Y}$ 生成的 $\sigma$-代数 $\sigma(\boldsymbol{Y})$ 是独立的。简单说就是,只要是从 $\boldsymbol{X}$ 衍生出来的事件(属于 $\sigma(\boldsymbol{X})$),和从 $\boldsymbol{Y}$ 衍生出来的事件(属于 $\sigma(\boldsymbol{Y})$),它们发生的概率都满足乘积法则:$P(A \cap B) = P(A)P(B)$,其中 $A \in \sigma(\boldsymbol{X})$,$B \in \sigma(\boldsymbol{Y})$。
为什么能这样等价?因为 $\sigma(\boldsymbol{X})$ 就是由所有形如 ${\boldsymbol{X} \leq \boldsymbol{a}}$ 的集合“生成”出来的 $\sigma$-代数,根据测度扩张定理,只要在这些生成集合上满足独立条件,整个 $\sigma$-代数里的事件都满足。
另外,如果这两个向量的联合概率密度存在的话,独立性还有个更直观的等价条件:联合密度函数 $f_{\boldsymbol{X},\boldsymbol{Y}}(\boldsymbol{x},\boldsymbol{y})$ 等于 $\boldsymbol{X}$ 的边缘密度 $f_{\boldsymbol{X}}(\boldsymbol{x})$ 乘以 $\boldsymbol{Y}$ 的边缘密度 $f_{\boldsymbol{Y}}(\boldsymbol{y})$,对几乎所有的 $(\boldsymbol{x},\boldsymbol{y})$ 都成立。
2. 判断随机向量$(X_1,X_2)$与$(X_3,X_4)$是否独立(附证明)
直接给结论:$(X_1,X_2)$和$(X_3,X_4)$是完全独立的,下面一步步给你证明:
已知 $X_1,X_2,X_3,X_4$ 是相互独立的实值随机变量,我们只需要验证向量独立性的核心定义就行:对任意的实数 $a_1,a_2,a_3,a_4$,证明
$P(X_1 \leq a_1, X_2 \leq a_2, X_3 \leq a_3, X_4 \leq a_4) = P(X_1 \leq a_1, X_2 \leq a_2)P(X_3 \leq a_3, X_4 \leq a_4)$
首先,因为 $X_1,X_2,X_3,X_4$ 相互独立,根据多个实值随机变量独立的定义,联合概率可以拆成各个变量边缘概率的乘积:
$$
P(X_1 \leq a_1, X_2 \leq a_2, X_3 \leq a_3, X_4 \leq a_4) = P(X_1 \leq a_1)P(X_2 \leq a_2)P(X_3 \leq a_3)P(X_4 \leq a_4)
$$
再看等式右边,因为 $X_1$ 和 $X_2$ 独立,所以 $P(X_1 \leq a_1, X_2 \leq a_2) = P(X_1 \leq a_1)P(X_2 \leq a_2)$;同理,$X_3$ 和 $X_4$ 独立,所以 $P(X_3 \leq a_3, X_4 \leq a_4) = P(X_3 \leq a_3)P(X_4 \leq a_4)$。把这两个结果相乘,右边就变成了:
$$
P(X_1 \leq a_1)P(X_2 \leq a_2)P(X_3 \leq a_3)P(X_4 \leq a_4)
$$
你看,左边和右边完全相等,完美满足向量值随机变量独立的定义,所以 $(X_1,X_2)$ 和 $(X_3,X_4)$ 是独立的。
如果用 $\sigma$-代数的角度理解也很简单:$\sigma(X_1,X_2)$ 是由 $X_1,X_2$ 生成的所有事件的集合,$\sigma(X_3,X_4)$ 是由 $X_3,X_4$ 生成的所有事件的集合。因为所有 $X_i$ 相互独立,这两个 $\sigma$-代数是独立的,对应的随机向量自然也独立。
内容的提问来源于stack exchange,提问作者Sebastian

