You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

有限马尔可夫链中通过修改吸收态计算状态返回概率的合理性问询

有限马尔可夫链中通过修改吸收态计算状态返回概率的合理性问询

这个问题问得特别到位,其实你的老师这么操作的核心逻辑,是精准抓住了我们要计算的概率的本质——我们只关心从某个状态出发,是否会在某个时刻$n≥1$到达状态3,至于到达3之后链的后续行为,完全不影响这个事件的发生概率。下面我一步步拆解为什么这个操作是完全合理的:


先明确原问题的目标概率

我们要算的$\mathbb{P}(X_n=3 \text{ for some } n≥1 | X_0=3)$,本质是从状态3出发,最终会回到3的概率(也就是状态3的常返性相关概率)。老师一开始的拆分是对的:把第一步的所有可能状态(3、4、5、6)分开考虑,其中:

  • 如果第一步就留在3(概率$p_{33}$),那直接满足“到达3”的条件;
  • 如果第一步跳到4、5、6中的某个状态$i$,那接下来我们需要的就是从$i$出发,最终能到达3的概率——这就是老师引入$\mathbb{P}(X_n=3 \text{ for some }n≥1|X_0=i)$的原因。

为什么修改吸收态不改变我们要的概率?

当我们把状态3改成吸收态(也就是新转移矩阵$\tilde{\textbf{P}}$里让$\tilde{p}{33}=1$,其他$\tilde{p}{3j}=0$),新链$\tilde{X}_n$里的吸收概率$\alpha_i = \mathbb{P}(\tilde{X}_n=3 \text{ for some }n≥1|\tilde{X}_0=i)$,和原链中$\mathbb{P}(X_n=3 \text{ for some }n≥1|X_0=i)$是完全等价的,原因很简单:

  • 在原链中,只要某个时刻到达了3,不管之后链怎么转移,“曾经到达过3”这个事件已经发生了,后续的状态变化不会推翻这个结果;
  • 在新链中,一旦到达3就会被“冻结”(一直停在3),所以“被吸收到3”这个事件,和原链中“曾经到达过3”是完全一样的。

换句话说,我们要的概率只和是否到达过3这个事件有关,和到达3之后的任何行为都无关。把3改成吸收态,只是把到达3后的过程“截断”了,但完全不影响“是否到达3”这个事件的概率。

举个直观的例子

假设原链中从状态4出发,第一步有1/4的概率到3,到3之后又有1/5的概率跳回4。在原链中,从4出发“到达过3”的概率,就是不管第一次到3之后会不会跳走,只要曾经到过就算数;在新链中,到3之后就停住,所以“被吸收到3”的概率,和原链中“到达过3”的概率是一回事——因为第一次到3的时候,两个链的事件都已经成立了,后续的跳变不影响结果。


所以你的老师这个操作是马尔可夫链里计算可达概率、常返概率的标准技巧:通过将目标状态设为吸收态,把“是否到达该状态”的问题转化为吸收概率问题,这样可以简化方程组的求解(因为吸收态的方程会更简单),而且本质上和原问题的概率是完全等价的,不会改变结果。

备注:内容来源于stack exchange,提问作者user2545

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.04.21 09:19:36