关于矩生成函数(MGF)受对称指数函数控制的零均值随机变量的有界性问题
这是个非常有意思的问题,你的直觉其实已经踩中了关键——确实要从大λ的极限情况入手分析,而不是小λ(小λ只能得到低阶矩的信息,没法直接推导出有界性)。咱们一步步来拆解:
问题回顾
给定零均值随机变量$X$,其矩生成函数满足:
$$
\mathbb{E}[e^{\lambda X}] \leq \exp(c|\lambda|)
$$
其中$c>0$是常数。我们需要判断:$X$是否一定是几乎处处有界的?
结论:是的,$X$必然几乎处处有界
不仅如此,我们还可以证明$|X| \leq c$几乎处处成立,下面是具体的证明思路:
第一步:分析$\lambda>0$的情况
当$\lambda>0$时,原不等式可以改写为:
$$
\mathbb{E}[e^{\lambda X}] \leq e^{c\lambda}
$$
注意到$e{c\lambda}$其实就是常数$c$的矩生成函数值(因为$\mathbb{E}[e{\lambda c}] = e^{c\lambda}$),因此我们可以把不等式整理为:
$$
\mathbb{E}[e^{\lambda(X - c)}] \leq 1
$$
现在考虑事件${X > c}$:在这个事件上,$X - c > 0$,所以当$\lambda \to +\infty$时,$e^{\lambda(X - c)}$会趋向于正无穷;而在${X \leq c}$的事件上,$X - c \leq 0$,因此$e^{\lambda(X - c)} \leq 1$。
假设$\mathbb{P}(X > c) > 0$,那么根据期望的定义,我们可以得到一个下界:
$$
\mathbb{E}[e^{\lambda(X - c)}] \geq \mathbb{E}\left[e^{\lambda(X - c)} \cdot \mathbf{1}_{{X > c}}\right] \geq e^{\lambda \delta} \cdot \mathbb{P}(X > c)
$$
这里$\delta$是某个正数(比如取$\delta = \inf{X - c \mid X > c}$,显然$\delta>0$)。当$\lambda$趋向于正无穷时,这个下界会趋向于正无穷,但我们知道左边的期望始终不超过1,这就产生了矛盾。因此$\mathbb{P}(X > c) = 0$。
第二步:分析$\lambda<0$的情况
令$\lambda = -t$(其中$t>0$),代入原不等式可得:
$$
\mathbb{E}[e^{-tX}] \leq e^{ct}
$$
也就是:
$$
\mathbb{E}[e^{t(-X)}] \leq e^{ct}
$$
用和第一步完全相同的逻辑,我们可以推出$\mathbb{P}(-X > c) = 0$,也就是$\mathbb{P}(X < -c) = 0$。
第三步:合并结论
结合上面两个结果,我们得到:
$$
\mathbb{P}(|X| \leq c) = 1
$$
这就说明$X$几乎处处有界,且绝对值不超过$c$。
补充:和亚高斯变量的区别
你提到的亚高斯变量确实是很好的对比——亚高斯变量的MGF被$\exp(c\lambda2)$控制,这种情况下,$\lambda2$是平方增长,当$\lambda$很大时,右边的指数增长速度是平方级,而如果变量只是“温和地”无界(比如标准正态变量),其MGF的增长速度刚好能被平方指数压住;但咱们这个问题里的控制函数是$\exp(c|\lambda|)$,线性指数的增长速度远慢于无界变量MGF的指数增长速度,所以只要变量有任何正概率取到超过$c$的值,MGF就会“爆炸”,突破线性指数的限制。
备注:内容来源于stack exchange,提问作者rubikscube09




