You need to enable JavaScript to run this app.
最新活动
大模型
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

简单反射智能体双方格环境下移动步数期望的证明疑问

简单反射智能体双方格环境下移动步数期望的证明疑问

嘿,我来帮你理清这个问题!你其实找对了期望的表达式,但完全不用担心——这个级数绝对是收敛的,而且算出来刚好等于2,和书里的结论完全一致。

先再明确下场景:智能体在两个方格中的一个,每次抛硬币,有1/2的概率正面(直接移动到目标方格),1/2的概率反面(留在原地)。我们要算首次到达目标方格的期望步数E(N)。

方法一:递推法(更直观,适合概率基础薄弱的情况)

这是最容易理解的思路,不用碰无穷级数:

  • 设E为我们要求的期望步数。
  • 第一步有两种可能:
    • 1/2的概率直接成功,只用了1步;
    • 1/2的概率失败,这时候相当于回到了初始状态,我们还需要再花E步才能完成目标(加上已经用掉的1步)。
  • 据此可以列出方程:
    $$E = \frac{1}{2} \times 1 + \frac{1}{2} \times (1 + E)$$
  • 解这个方程:
    展开后得到 $E = \frac{1}{2} + \frac{1}{2} + \frac{1}{2}E$,化简为 $E = 1 + \frac{1}{2}E$,移项后 $\frac{1}{2}E = 1$,最终得到 $E=2$。

方法二:直接计算无穷级数

你列出的期望表达式是完全正确的:
$$E(N) = \sum_{x=1}^{\infty}x \times \left(\frac{1}{2}\right)^x$$
这个级数是收敛的,因为它是等差乘等比的无穷级数,公比的绝对值是1/2(小于1),满足收敛条件。我们可以用错位相减法计算它的和:

  • 令 $S = 1 \times \frac{1}{2} + 2 \times \left(\frac{1}{2}\right)^2 + 3 \times \left(\frac{1}{2}\right)^3 + \dots$
  • 两边乘以1/2:$\frac{1}{2}S = 1 \times \left(\frac{1}{2}\right)^2 + 2 \times \left(\frac{1}{2}\right)^3 + 3 \times \left(\frac{1}{2}\right)^4 + \dots$
  • 用第一个式子减去第二个式子:
    $$S - \frac{1}{2}S = \frac{1}{2} + \left(\frac{1}{2}\right)^2 + \left(\frac{1}{2}\right)^3 + \dots$$
  • 左边是 $\frac{1}{2}S$,右边是首项为1/2、公比为1/2的无穷等比级数,它的和是 $\frac{\frac{1}{2}}{1 - \frac{1}{2}} = 1$
  • 因此 $\frac{1}{2}S = 1$,解得 $S=2$,和递推法的结果一致。

所以不管用哪种方法,都能证明期望步数确实是2,完全符合书里的结论~

备注:内容来源于stack exchange,提问作者HMPtwo

火山引擎 最新活动