已知条件分布的随机变量和的均值与方差计算

咱们先明确目标：要计算加权和 $S = a_0X_0 + a_1X_1 + \dots + a_nX_n$ 的均值和方差，其中 $X_0=x_0$（固定非零值），且对每个 $j\geq1$，$X_j$ 在给定 $X_{j-1}=x$ 时服从二项分布 $\text{Binomial}(x,p_{j-1})$，同时序列 $X_0\geq X_1\geq\dots\geq X_n$ 几乎必然成立。

均值计算 #

均值部分很直接，利用条件期望的塔式法则就能递推出来：

• 首先，$X_0$ 是固定值，所以 $E[X_0] = x_0$。
• 对 $j\geq1$，给定 $X_{j-1}=x$ 时，二项分布 $\text{Binomial}(x,p_{j-1})$ 的期望是 $xp_{j-1}$，因此 $E[X_j] = E\left[E\left[X_j \mid X_{j-1}\right]\right] = E\left[X_{j-1}p_{j-1}\right] = p_{j-1}E[X_{j-1}]$。

递推下去就能得到每个 $X_j$ 的期望：
$$E[X_j] = x_0 \cdot \prod_{k=0}^{j-1} p_k$$
（注：当 $j=0$ 时，乘积为空，结果就是 $x_0$，符合初始条件）

那加权和的均值就是各变量期望的加权和：
$$E[S] = \sum_{j=0}^n a_j E[X_j] = x_0 \left(a_0 + a_1p_0 + a_2p_0p_1 + \dots + a_n \prod_{k=0}^{n-1}p_k\right)$$

方差计算 #

方差的计算需要拆解成两部分：单个变量的方差，以及两两变量的协方差。

单个变量的方差 $\text{Var}(X_j)$ #

利用条件方差公式：$\text{Var}(Y) = E\left[\text{Var}(Y \mid Z)\right] + \text{Var}\left[E(Y \mid Z)\right]$，对 $X_j$ 应用这个公式：

• 给定 $X_{j-1}=x$ 时，二项分布 $\text{Binomial}(x,p_{j-1})$ 的方差是 $xp_{j-1}(1-p_{j-1})$，因此 $E\left[\text{Var}(X_j \mid X_{j-1})\right] = p_{j-1}(1-p_{j-1})E[X_{j-1}]$。
• 而 $E\left[X_j \mid X_{j-1}\right] = p_{j-1}X_{j-1}$，所以 $\text{Var}\left[E(X_j \mid X_{j-1})\right] = p_{j-1}^2\text{Var}(X_{j-1})$。

由此得到递推式：
$$\text{Var}(X_j) = p_{j-1}(1-p_{j-1})E[X_{j-1}] + p_{j-1}^2\text{Var}(X_{j-1})$$
初始条件 $\text{Var}(X_0)=0$（因为 $X_0$ 是固定值）。

举个简单例子：

• $\text{Var}(X_1) = p_0(1-p_0)x_0 + p_0^2 \cdot 0 = x_0p_0(1-p_0)$
• $\text{Var}(X_2) = p_1(1-p_1)E[X_1] + p_1^2\text{Var}(X_1) = x_0p_0p_1(1-p_1) + x_0p_0(1-p_0)p_1^2 = x_0p_0p_1(1 - p_0p_1)$

两两变量的协方差 $\text{Cov}(X_i,X_j)$（$i<j$） #

协方差的公式是 $\text{Cov}(X_i,X_j) = E[X_iX_j] - E[X_i]E[X_j]$。我们可以用条件期望简化 $E[X_iX_j]$：

• 因为 $X_j$ 的条件期望可以一直递推到 $X_i$：$E[X_j \mid X_i] = X_i \cdot \prod_{k=i}^{j-1}p_k$（每一步都是前一个变量乘以对应的 $p$）。
• 所以 $E[X_iX_j] = E\left[X_i \cdot E[X_j \mid X_i]\right] = E\left[X_i^2 \cdot \prod_{k=i}^{j-1}p_k\right] = \prod_{k=i}^{j-1}p_k \cdot E[X_i^2]$。

而 $E[X_i^2] = \text{Var}(X_i) + (E[X_i])^2$，代入协方差公式：
$$\text{Cov}(X_i,X_j) = \prod_{k=i}^{j-1}p_k \cdot (\text{Var}(X_i) + (E[X_i])^2) - E[X_i] \cdot E[X_j]$$
注意到 $E[X_j] = E[X_i] \cdot \prod_{k=i}^{j-1}p_k$，所以后面两项会抵消，最终简化为：
$$\text{Cov}(X_i,X_j) = \text{Var}(X_i) \cdot \prod_{k=i}^{j-1}p_k$$

加权和的方差 $\text{Var}(S)$ #

把单个方差和协方差组合起来，加权和的方差公式是：
$$\text{Var}(S) = \sum_{j=0}^n a_j^2\text{Var}(X_j) + 2\sum_{0\leq i<j\leq n}a_i a_j \cdot \text{Cov}(X_i,X_j)$$
代入上面得到的协方差结果，就可以写成：
$$\text{Var}(S) = \sum_{j=0}^n a_j^2\text{Var}(X_j) + 2\sum_{0\leq i<j\leq n}a_i a_j \cdot \text{Var}(X_i) \cdot \prod_{k=i}^{j-1}p_k$$

你可以通过递推先算出所有的 $\text{Var}(X_j)$，再代入这个公式计算最终的方差。

内容的提问来源于stack exchange，提问作者J. Goles