由马尔可夫依赖伯努利随机变量定义的D序列是否为马尔可夫链?请说明原因
要判断${D_n}$是否为马尔可夫链,核心是看它是否满足马尔可夫性:未来状态的概率仅依赖于当前状态,与过去所有状态无关,即对任意$n \geq 1$,需满足:
$$P(D_{n+1} \mid D_1, D_2, \dots, D_n) = P(D_{n+1} \mid D_n)$$
我们可以通过构造非平凡的伯努利马尔可夫链$X$,并计算条件概率的方式来证明${D_n}$不满足这个性质:
设定原马尔可夫链$X$的转移规则
假设$X$是状态为0和1的伯努利马尔可夫链,转移概率为:
- $P(X_k=1 \mid X_{k-1}=0) = a$($0 < a < 1$,非退化)
- $P(X_k=0 \mid X_{k-1}=1) = b$($0 < b < 1$,非退化)
明确$D_n$的取值含义
根据定义:
- $D_n=1$ 当且仅当 $X_n=1$ 且 $X_{n+1}=0$(即$X$从状态1跳到0)
- $D_n=0$ 对应三种情况:$(X_n=0,X_{n+1}=0)$、$(X_n=0,X_{n+1}=1)$、$(X_n=1,X_{n+1}=1)$(即$X$不发生“1→0”的跳转)
计算条件概率并对比
我们计算两个关键条件概率,看它们是否相等:
1. 计算$P(D_3=1 \mid D_2=0, D_1=1)$
- $D_1=1$ 意味着$X_1=1, X_2=0$;$D_2=0$ 说明$X_2 \leq X_3$,结合$X_2=0$,$X_3$可以是0或1。
- 要$D_3=1$,必须满足$X_3=1$且$X_4=0$。由于$X$是马尔可夫链,未来仅依赖当前状态,因此:
$$P(D_3=1 \mid D_2=0, D_1=1) = P(X_3=1 \mid X_2=0) \cdot P(X_4=0 \mid X_3=1) = a \cdot b$$
2. 计算$P(D_3=1 \mid D_2=0)$
首先计算联合概率$P(D_3=1, D_2=0)$,它包含两种情况:
- 情况1:$X_2=0, X_3=1, X_4=0$,概率为$\pi_0 \cdot a \cdot b$(其中$\pi_0 = \frac{b}{a+b}$是$X$的平稳分布中状态0的概率)
- 情况2:$X_2=1, X_3=1, X_4=0$,概率为$\pi_1 \cdot (1-b) \cdot b$(其中$\pi_1 = \frac{a}{a+b}$是状态1的平稳分布)
分子总和为:
$$\frac{b}{a+b} \cdot a \cdot b + \frac{a}{a+b} \cdot (1-b) \cdot b = \frac{ab}{a+b}$$
再计算$P(D_2=0)$(即$X_2 \leq X_3$的概率):
$$P(D_2=0) = \pi_0 \cdot (1-a) + \pi_0 \cdot a + \pi_1 \cdot (1-b) = \pi_0 + \pi_1(1-b) = \frac{a + b - ab}{a+b}$$
因此条件概率为:
$$P(D_3=1 \mid D_2=0) = \frac{\frac{ab}{a+b}}{\frac{a + b - ab}{a+b}} = \frac{ab}{a + b - ab}$$
3. 对比两个结果
由于$0 < a,b < 1$,可得$a + b - ab = 1 - (1-a)(1-b) < 1$,因此:
$$\frac{ab}{a + b - ab} > ab$$
即$P(D_3=1 \mid D_2=0) \neq P(D_3=1 \mid D_2=0, D_1=1)$。
这说明$D_3$的概率不仅依赖于当前状态$D_2$,还依赖于更早的状态$D_1$,直接违反了马尔可夫性。
具体数值例子验证
取$a=b=0.5$:
- $P(D_3=1 \mid D_2=0, D_1=1) = 0.5 \times 0.5 = 0.25$
- $P(D_3=1 \mid D_2=0) = \frac{0.5 \times 0.5}{0.5+0.5-0.5 \times 0.5} = \frac{0.25}{0.75} = \frac{1}{3} \approx 0.333$
两者明显不相等,进一步证明${D_n}$不是马尔可夫链。
内容的提问来源于stack exchange,提问作者ntnhut

