矩母函数乘积性质与随机变量独立性的关联及相关证明问询
咱们来探讨二维离散随机变量独立性和联合生成函数之间的等价性问题,先把核心问题明确下来:
已知$(X, Y) \in \mathbb{N}^2$是二维随机变量,其联合生成函数为:
$$\phi_{X,Y}(s,t)=\sum_{i,j=0}^\infty s^i t^j P(X=i, Y=j), \quad |s|, |t|<1,$$
边缘生成函数分别为:
$$\phi_X(s)=\sum_{i=0}^\infty s^i P(X=i), \quad \phi_Y(t)=\sum_{j=0}^\infty t^j P(Y=j).$$
求证:$X, Y$相互独立当且仅当对所有$|s|, |t|<1$,有$\phi_{X,Y}(s,t)=\phi_X(s)\phi_Y(t)$。
必要性(Only If)部分
这部分其实很直观,要是$X$和$Y$相互独立,根据独立性的定义,对任意自然数$i,j$都有$P(X=i,Y=j)=P(X=i)P(Y=j)$。把这个代入联合生成函数的定义式,双重求和就可以拆成两个单变量求和的乘积:
$$\phi_{X,Y}(s,t)=\sum_{i,j=0}^\infty s^i t^j P(X=i)P(Y=j)=\left(\sum_{i=0}^\infty s^i P(X=i)\right)\left(\sum_{j=0}^\infty t^j P(Y=j)\right)=\phi_X(s)\phi_Y(t)$$
这样必要性就直接得证了。
充分性(If)部分
这部分是需要重点推导的,当已知$\phi_{X,Y}(s,t)=\phi_X(s)\phi_Y(t)$对所有$|s|,|t|<1$成立时,我们把等式两边相减,得到:
$$\begin{aligned}
&\sum_{i,j=0}^\infty s^i t^j \Big(P(X=i, Y=j) - P(X=i)P(Y=j)\Big) = 0, \quad |s|, |t|<1 \
& \text{令} \ p_{i,j}=P(X=i,Y=j)-P(X=i)P(Y=j), \text{则上式可写为:} \
&\sum_{i,j=0}^\infty s^i t^j p_{i,j} = 0
\end{aligned}$$
接下来利用幂级数的唯一性定理:如果一个双重幂级数在包含原点的开区域(这里就是$|s|<1,|t|<1$的单位开矩形)内恒等于0,那么它的每一项系数都必须为0。具体推导步骤如下:
- 先固定任意一个$s\in(-1,1)$,把上述级数看成关于$t$的单变量幂级数,这个幂级数在$|t|<1$时恒为0,根据单变量幂级数的唯一性,每个$tj$的系数$\sum_{i=0}\infty s^i p_{i,j}$都必须等于0,对所有$j\in\mathbb{N}$成立;
- 再把$\sum_{i=0}^\infty s^i p_{i,j}=0$看成关于$s$的单变量幂级数,同样在$|s|<1$时恒为0,再次利用唯一性定理,每个$s^i$的系数$p_{i,j}$都必须等于0,对所有$i,j\in\mathbb{N}$成立。
这就意味着$P(X=i,Y=j)=P(X=i)P(Y=j)$对所有自然数$i,j$都成立,即$X$和$Y$相互独立,充分性得证。
备注:内容来源于stack exchange,提问作者Doggy

