无限方差分布是否存在对应的Law of Large Numbers？

Great question! 你观察到的点特别有意思——既然部分无限方差的随机变量能通过中心极限定理收敛到稳定分布，那自然会好奇大数定律在这里还能不能生效。答案是有的，但和我们熟悉的经典大数定律（比如辛钦、科尔莫戈罗夫版本）的适用条件不太一样，核心要看随机变量的尾部行为。

先明确经典大数定律的限制 #

我们平时学的经典大数定律，比如辛钦弱大数定律（WLLN）、科尔莫戈罗夫强大数定律（SLLN），大多要求随机变量的一阶矩（期望）存在，甚至方差有限。但当方差无限时，这些定律的条件可能不满足，但这不代表完全没有对应的大数定律——我们有更广义的版本来覆盖这类情况。

广义弱大数定律（WLLN） #

对于独立同分布（i.i.d.）的随机变量序列 $X_1, X_2, ...$，即使方差无限（甚至一阶矩不存在），只要尾部概率衰减足够快，依然可能满足弱大数定律：即样本均值 $\frac{S_n}{n} = \frac{X_1+X_2+...+X_n}{n}$ 依概率收敛到某个常数 $c$。

关键判断条件是：当 $x \to \infty$ 时，$x P(|X_1| > x) \to 0$。同时，收敛的常数 $c$ 是 $E\left[X_1 I_{|X_1| \leq x}\right]$ 当 $x \to \infty$ 时的极限（如果这个极限存在的话）。

举两个直观例子：

• 反例：柯西分布：柯西分布的尾部概率满足 $P(|X| > x) \sim \frac{2}{\pi x}$，此时 $x P(|X| > x) \to \frac{2}{\pi} \neq 0$，所以它的样本均值不会依概率收敛到任何常数，WLLN不成立。
• 正例：慢衰减尾部分布：假设 $P(|X| > x) = \frac{1}{x \log x}$（当 $x \geq 2$），此时 $x P(|X| > x) = \frac{1}{\log x} \to 0$，满足条件。虽然这个分布的一阶矩不存在（因为 $\int_2^\infty P(|X|>x)dx$ 发散），但它的样本均值依然会依概率收敛到0（假设分布对称）。

广义强大数定律（SLLN） #

强大数定律要求的条件更严格，对于i.i.d.序列来说，经典的SLLN等价于一阶矩有限——也就是说，如果随机变量的一阶矩不存在，几乎必然收敛（a.s.）是不可能的。

不过有个中间情况：如果随机变量的一阶矩有限，但方差无限，经典的SLLN依然成立。比如，假设 $X$ 的分布满足 $P(X = k) = \frac{1}{k^3}$（$k=1,2,...$），此时方差 $E[X^2] = \sum_{k=1}^\infty \frac{k^2}{k3} = \sum_{k=1}^\infty \frac{1}{k}$ 发散（方差无限），但一阶矩 $E|X| = \sum_{k=1}^\infty \frac{k}{k^3} = \sum_{k=1}^\infty \frac{1}{k^2}$ 有限，所以样本均值依然会几乎必然收敛到期望，符合经典SLLN的结论。

而对于一阶矩不存在的情况（比如柯西分布），样本均值会在整个实数轴上波动，永远不会几乎必然收敛到某个常数，SLLN不成立。

总结一下 #

• 如果随机变量一阶矩有限（不管方差是否无限）：经典的WLLN和SLLN都适用，样本均值会依概率/几乎必然收敛到期望。
• 如果随机变量一阶矩不存在：只有当尾部概率满足 $x P(|X|>x) \to 0$ 时，弱大数定律才成立；强大数定律则几乎不可能成立。

内容的提问来源于stack exchange，提问作者user56834