DDIM论文中公式(6)的边缘化推导疑问
嗨,我来帮你拆解这个T=3时的边缘化推导问题~其实核心就是利用条件概率的归一性,咱们一步一步来理清楚:
首先看你列出的(*)式:
$$
\int_{\boldsymbol{x}1} \int{\boldsymbol{x}2} q{\sigma}(\boldsymbol{x}_3 \mid \boldsymbol{x}0) q{\sigma}(\boldsymbol{x}_1 \mid \boldsymbol{x}_2, \boldsymbol{x}0) q{\sigma}(\boldsymbol{x}_2 \mid \boldsymbol{x}_3, \boldsymbol{x}_0) d\boldsymbol{x}2 d\boldsymbol{x}1 = q{\sigma}(\boldsymbol{x}{3} \mid \boldsymbol{x}_0)
$$
第一步:提取与积分变量无关的项
$q_{\sigma}(\boldsymbol{x}_3 \mid \boldsymbol{x}_0)$ 和 $\boldsymbol{x}_1$、$\boldsymbol{x}2$ 都没关系,所以可以直接提到积分外面:
$$
q{\sigma}(\boldsymbol{x}_3 \mid \boldsymbol{x}0) \int{\boldsymbol{x}2} q{\sigma}(\boldsymbol{x}_2 \mid \boldsymbol{x}_3, \boldsymbol{x}0) \left( \int{\boldsymbol{x}1} q{\sigma}(\boldsymbol{x}_1 \mid \boldsymbol{x}_2, \boldsymbol{x}_0) d\boldsymbol{x}_1 \right) d\boldsymbol{x}_2
$$
第二步:利用条件概率的归一性计算内层积分
对于合法的条件概率分布,遍历所有可能的取值积分结果必然是1。这里 $\int_{\boldsymbol{x}1} q{\sigma}(\boldsymbol{x}_1 \mid \boldsymbol{x}_2, \boldsymbol{x}_0) d\boldsymbol{x}_1$ 就是给定 $\boldsymbol{x}_2$ 和 $\boldsymbol{x}_0$ 时,所有 $\boldsymbol{x}1$ 的概率和,结果为1。代入后式子简化为:
$$
q{\sigma}(\boldsymbol{x}_3 \mid \boldsymbol{x}0) \int{\boldsymbol{x}2} q{\sigma}(\boldsymbol{x}_2 \mid \boldsymbol{x}_3, \boldsymbol{x}_0) \times 1 , d\boldsymbol{x}_2
$$
第三步:再次利用归一性计算外层积分
同样的道理,$\int_{\boldsymbol{x}2} q{\sigma}(\boldsymbol{x}_2 \mid \boldsymbol{x}_3, \boldsymbol{x}_0) d\boldsymbol{x}_2$ 是给定 $\boldsymbol{x}_3$ 和 $\boldsymbol{x}_0$ 时,所有 $\boldsymbol{x}2$ 的概率和,结果也为1。代入后就得到:
$$
q{\sigma}(\boldsymbol{x}_3 \mid \boldsymbol{x}0) \times 1 = q{\sigma}(\boldsymbol{x}_3 \mid \boldsymbol{x}_0)
$$
拓展到一般情况
回到原问题中的 $\int q_{\sigma}(\boldsymbol{x}{1:T} \mid \boldsymbol{x}0) d\boldsymbol{x}{1:(T-1)} = q{\sigma}(\boldsymbol{x}_{T} \mid \boldsymbol{x}_0)$,本质逻辑是一样的:从最内层的 $\boldsymbol{x}1$ 开始积分,每一步都利用条件概率的归一性把积分结果简化为1,层层递进后就只剩下 $q{\sigma}(\boldsymbol{x}_T \mid \boldsymbol{x}_0)$ 啦。
顺便提一句,你之前处理t<T的情况用到的是贝叶斯法则(联合概率的边缘化),而这里的情况更直接——我们积分的是“时序更早”的变量,这些变量的条件概率本身就是归一化的,所以积分后直接消去了中间项。
备注:内容来源于stack exchange,提问作者metamath

