方程从步骤2到步骤3的推导原理及求和式形式差异问询

1. 从步骤2到步骤3的推导逻辑 #

咱们先从离散概率的核心规则说起哈。通常这类推导围绕两个关键点展开：

• 指示函数的简化：如果步骤2里用了指示函数$\mathbb{I}(条件)$来筛选符合要求的样本点（比如$\mathbb{I}(y=x)$或者$\mathbb{I}(y=z-x)$），那步骤3就是把指示函数的条件直接融入求和范围的约束里，不用再写指示函数——毕竟只有满足条件的$(x,y)$对才会对求和有贡献，直接限定y的范围更简洁。
• 求和顺序的调整/边缘化规则：如果步骤2是对所有$x,y$的双重求和，步骤3可能是先对其中一个变量求和（比如先对y求和得到边缘概率$P(x)$），这时候用到了离散概率的边缘化公式：$\sum_{all y} P(x,y) = P(x)$，把联合概率压缩成边缘概率，简化表达式。

举个具体例子，如果步骤2是：
$$P(X=Y) = \sum_{all x} \sum_{all y} P(x,y) \cdot \mathbb{I}(y=x)$$
那步骤3就可以把指示函数的条件放到y的求和约束里，直接写成：
$$P(X=Y) = \sum_{all x} \sum_{y: y=x} P(x,y)$$
本质就是把“只保留y=x的项”这个逻辑从指示函数转移到了求和范围上，让表达式更直观。

2. 为什么第二个和第三个方程没用到类似的带约束求和？ #

核心原因其实在于每个方程的计算目标不同：

• 第一个方程的目标是计算特定联合事件的概率（比如$X=Y$），必须筛选出满足$y=x$的样本点，所以需要用带约束的双重求和来圈定有效范围。
• 如果第二个和第三个方程是计算边缘概率（比如$P(X=x)$）、期望（比如$E[X]$）这类量，它们的目标是覆盖所有可能的样本点，不需要对$x$和$y$的关系加限制：
  • 比如计算$P(X=x)$，只需要对所有可能的y求和，得到$\sum_{all y} P(x,y)$，不需要约束y等于某个和x相关的值；
  • 比如计算$E[X]$，是$\sum_{all x} x \sum_{all y} P(x,y)$，同样是对所有x,y的组合求和，不需要限定y的范围。

只有当你需要计算“满足某个变量关系的事件概率”时，才需要把这个关系作为约束加到求和范围里——如果目标是边缘化或者求期望，就不需要这种约束啦。

内容的提问来源于stack exchange，提问作者A_for_ Abacus