吸收马尔可夫链中不包含指定状态的时间占比计算咨询
吸收马尔可夫链中不包含指定状态的时间占比计算咨询
我最近在做吸收马尔可夫链相关的实验,现在卡在一个问题上:我想计算该链不包含某一特定状态的时间占比。为了让问题更直观,我举一个具体的例子——下面是我用到的吸收马尔可夫链的转移矩阵:
$$
\begin{bmatrix}
0.864 & 0.04 & 0.096 & 0\
0 & 0.904 & 0 & 0.096\
0 & 0 & 0.96 & 0.04\
0 & 0 & 0 & 1
\end{bmatrix}
$$
我按行列顺序给每个状态命名为:$p_{\emptyset}, p_1, p_2, p_{1,2}$。
目前我已经用吸收马尔可夫链的相关公式计算出了被吸收前的期望步数,也就是公式 $t := N\mathbf{1}$,得到的结果如下:
$$
\begin{bmatrix}
28.064\
10.41667\
25
\end{bmatrix}
$$
不过我现在不知道该怎么利用这些信息,去计算链在被吸收前从未进入某个特定状态(比如$p_1$)的时间占比?有没有大佬能指点一下对应的推导方法或者思路呀?
备注:内容来源于stack exchange,提问作者James Clark




