求证满足近邻协方差条件的同分布随机变量和的方差不等式
先明确已知条件:
- $X_1,X_2,...,X_n$是同分布的随机变量(无需独立),且二阶矩有限,即$E[X_1^2]<\infty$
- 存在固定整数$h\ge1$,当两个下标$i,j$满足$|i-j|\ge h$时,$Cov(X_i,X_j)=0$
- 记部分和$S_n=\sum_{i=1}^nX_i$,我们要推导它的方差上界
证明步骤:
展开方差的基本表达式
根据方差的通用展开式(对任意随机变量都成立,不依赖独立性),我们有:
$$Var(S_n)=\sum_{i=1}^nVar(X_i)+2\sum_{\substack{1\le i < j \le n}} Cov(X_i,X_j)$$利用同分布和协方差约束化简
因为所有$X_i$同分布,所以每个$Var(X_i)=Var(X_1)$,代入后第一项变为$nVar(X_1)$。
结合题目中的协方差约束:当$|i-j|\ge h$时$Cov(X_i,X_j)=0$,交叉项的求和范围可以缩小到所有满足$|i-j|<h$的下标对$(i,j)$($i<j$),于是上式变为:
$$Var(S_n)=nVar(X_1)+2\sum_{\substack{1\le i < j \le n \ |i-j|<h}} Cov(X_i,X_j)$$用柯西-施瓦茨不等式控制协方差项
对于任意两个随机变量$U$和$V$,柯西-施瓦茨不等式给出协方差的绝对值上界:$|Cov(U,V)|\le\sqrt{Var(U)Var(V)}$。
这里$X_i,X_j$同分布,所以$Var(X_i)=Var(X_j)=Var(X_1)$,代入得:
$$|Cov(X_i,X_j)|\le Var(X_1)$$计数交叉项数量并放缩
统计求和式$\sum_{\substack{1\le i < j \le n \ |i-j|<h}}$的项数:
对于每个下标$i$,满足$i<j$且$j-i<h$的$j$最多有$h-1$个(即$i+1,i+2,...,i+h-1$,只要不超过$n$)。因此整个求和式的项数不会超过$n(h-1)$。
将数量和协方差上界代入原式:
$$Var(S_n)\le nVar(X_1)+2\cdot n(h-1)\cdot Var(X_1)$$
- 最终化简与放缩
合并同类项后:
$$Var(S_n)\le nVar(X_1)\left[1+2(h-1)\right]=nVar(X_1)(2h-1)$$
因为$h\ge1$,显然$2h-1\le2h$,所以最终得到:
$$Var(S_n)\le 2nhVar(X_1)$$
内容的提问来源于stack exchange,提问作者newbie




