关于马尔可夫链转移矩阵特征值λ=1的疑问及横向伊辛模型采样场景下的困惑
嘿,这个问题问得特别精准——我刚入门马尔可夫链蒙特卡洛(MCMC)的时候,也被这个点绕得晕头转向!咱们一步步把这个逻辑理清楚:
首先给你吃个定心丸:你的Metropolis转移矩阵P绝对存在特征值λ=1,这个是遍历马尔可夫链的核心性质,不可能不存在。你看到的“P的特征值都<1”的表述,大概率是省略了“除稳态对应特征值之外”的关键前提,咱们慢慢拆解:
1. 为什么P必须有λ=1?
你已经提到P满足详细平衡条件:
$$P(s'|s)\mu(s)=P(s|s')\mu(s')$$
把这个式子对所有$s$求和,就能得到:
$$\sum_s P(s'|s)\mu(s) = \sum_s P(s|s')\mu(s')$$
右边的$\mu(s')$可以提出来,变成$\mu(s')\sum_s P(s|s')$,而转移矩阵的每一列(或行,取决于左/右乘定义)求和必然为1(概率归一性),所以右边就是$\mu(s')$。左边则是$\mu P$的第$s'$项,因此:
$$\mu P = \mu$$
这就直接说明目标分布μ是P的左特征向量,对应的特征值就是1——这是铁证,只要详细平衡成立、链是遍历的(不可约+非周期),这个结论就一定成立。
2. 为什么会有“P的特征值都<1”的说法?
这个表述几乎都是在讨论链的收敛速度时的简化:
- 对于遍历的MCMC链,除了λ=1这个单重特征值之外,其他所有特征值的模都严格小于1。模最大的那个“次主导特征值”,决定了链收敛到稳态的快慢——越接近1,收敛越慢;越小,收敛越快。
- 很多资料在讲收敛性的时候,会简化说“P的特征值都<1”,但其实是省略了“除了对应稳态的那个1之外”这个前提。如果真的所有特征值都<1,那稳态分布根本不存在,咱们也没法用这个链采样了。
3. 结合横向伊辛模型的场景再验证
拿最简单的单自旋横向伊辛模型举例子:两个状态$s=+1$和$s=-1$,玻尔兹曼分布$\mu(+1)=e{-E(+1)/T}/Z$,$\mu(-1)=e{-E(-1)/T}/Z$。
假设用对称提议Q:$Q(+1|-1)=Q(-1|+1)=0.5$,$Q(+1|+1)=Q(-1|-1)=0.5$。
计算Metropolis转移矩阵P:
- $P(+1|-1) = \min(1, \frac{\mu(+1)}{\mu(-1)}) \times 0.5$
- $P(-1|+1) = \min(1, \frac{\mu(-1)}{\mu(+1)}) \times 0.5$
- $P(+1|+1) = 1 - P(-1|+1)$,$P(-1|-1) = 1 - P(+1|-1)$
把这个矩阵写出来计算特征值,你会发现:
- 一个特征值严格等于1,对应特征向量就是$\mu$;
- 另一个特征值的模必然小于1(比如当$E(+1)=E(-1)$时,另一个特征值是0;当$E(+1)≠E(-1)$时,特征值是$\frac{|\mu(+1)-\mu(-1)|}{\mu(+1)+\mu(-1)}$,小于1)。
这就直观证明了P确实存在λ=1的特征值。
最后再总结一下
你遇到的表述是典型的“省略关键前提”的情况,Metropolis转移矩阵P作为遍历链的核心,必然存在λ=1的特征值,对应我们要采样的玻尔兹曼分布μ——这也是MCMC能从任意初始状态收敛到目标分布的根本原因。
备注:内容来源于stack exchange,提问作者BlueTomato

