为何蒙特卡洛模拟均值在简单非线性变换场景下不满足期望等价性？

嘿，这个问题的核心其实是**詹森不等式（Jensen's Inequality）**在起作用，咱们一步步拆解开来聊：

首先先明确咱们的设定：

• 假设$X$和$Y$都是服从$(0,1)$区间的均匀分布，而且相互独立，那确实能算出$\mathbb{P}{X\leq Y}=\frac{1}{2}$，所以直接对这个概率平方的话，得到$\big(\frac{1}{2}\big)^2=\frac{1}{4}$，这一步是完全没问题的。
• 但现在咱们做的是重复$M$次模拟：每次生成一个独立的$Y_m$（和$X$独立，同样服从$U(0,1)$），计算每个$\mathbb{P}{X\leq Y_m}$的平方，再取平均，结果却趋近于$\frac{1}{3}$，而不是咱们以为的$\frac{1}{4}$。

问题出在哪？关键就在于操作顺序：
咱们是先对每个$\mathbb{P}{X\leq Y_m}$做非线性变换（平方），再取平均；而不是先取$\mathbb{P}{X\leq Y_m}$的平均，再做平方。这两个顺序反过来，结果就不一样——这正是詹森不等式的核心结论：

对于严格凸的函数$f(\cdot)$，总有$\mathbb{E}{f(Z)} > f(\mathbb{E}{Z})$，这里的$Z$就是$\mathbb{P}{X\leq Y_m}$这个随机变量。

咱们可以具体计算验证一下：
把$Z=\mathbb{P}{X\leq Y_m}$展开看：对于固定的$X=x$（$x\in(0,1)$），$\mathbb{P}{X\leq Y_m}=\mathbb{P}{Y_m\geq x}=1-x$；但$X$本身是随机变量，所以$Z$本质上是依赖于$X$的随机变量。

• 先算$\mathbb{E}[Z]$：也就是$\mathbb{E}[1-X]=1-\mathbb{E}[X]=1-\frac{1}{2}=\frac{1}{2}$，这和咱们一开始知道的$\mathbb{P}{X\leq Y}$完全一致。
• 再算$\mathbb{E}[Z^{2]$：也就是$\mathbb{E}[(1-X)}2]=\mathbb{E}[1-2X+X^2]$，展开计算：
  $\mathbb{E}[1]=1$，$\mathbb{E}[2X]=2\times\frac{1}{2}=1$，$\mathbb{E}[X^2]=\int_01 x^2 dx=\frac{1}{3}$，
  代入后得到$1-1+\frac{1}{3}=\frac{1}{3}$。

所以当$M$足够大时，蒙特卡洛模拟的均值$\frac{1}{M}\sum_{m=1}^M\big(\mathbb{P}{X\leq Y_m}\big)^{2$其实是在估计$\mathbb{E}[Z}2]=\frac{1}{3}$，而不是$f(\mathbb{E}[Z])=\big(\frac{1}{2}\big)^2=\frac{1}{4}$。

总结一下：

• 只有当变换函数是线性函数时，“先变换再取平均”和“先取平均再变换”的结果才会相等；
• 一旦遇到非线性函数（比如这里的平方函数），这两个操作的顺序就不能随意交换，否则结果会出现明显差异——这就是你看到的模拟结果和预期不符的根本原因。

备注：内容来源于stack exchange，提问作者user1358067