高斯核服从高斯分布时,采样x与y的分布求解问题
我来帮你梳理这个问题的推导思路和关键步骤,先从一维($d=1$)的简单场景入手:
问题前提与已知条件
首先明确我们的基础设定:
- 高斯核函数定义为:
$$k(x, y) = \exp\left(-\frac{||x-y||2}{2\sigma2}\right), \quad x, y \in \mathbb{R}^d$$ - 假设核函数本身服从高斯分布:
$$k \sim \mathcal{N}(\mu, \lambda^2)$$ - 我们的目标是找到随机变量 $X, Y$ 的分布 $g$(满足 $X, Y \sim g$),使得采样得到的核函数 $k(X,Y)$ 符合上述高斯分布。
一维场景的推导与核心等式
针对 $d=1$ 的情况,经过一系列推导和方程化简后,我们得到关键的积分约束等式(补全截断的积分上下限):
$$\int_{-\infty}{\infty}\int_{-\infty}{\infty} \exp\left(-\frac{(x-y)2}{2\sigma2}\right) g(x)g(y) dxdy = \mu$$
此外,从核函数的方差约束,还能得到第二个核心等式:
$$\int_{-\infty}{\infty}\int_{-\infty}{\infty} \exp\left(-\frac{(x-y)2}{\sigma2}\right) g(x)g(y) dxdy = \mu^2 + \lambda^2$$
进一步分析思路
一个很自然的假设是 $g$ 为高斯分布(因为核本身是高斯型,对称分布的假设能大幅简化推导),令 $g(x) = \mathcal{N}(m, s^2)$,将其代入上述积分等式,利用高斯积分与卷积的性质就能化简求解出分布的参数 $m$ 和 $s^2$:
- 代入第一个积分时,可通过变量替换或直接利用高斯卷积的结果,将二重积分化简为单变量积分,进而得到关于 $s^2$ 的方程;
- 代入第二个方差约束等式,能得到第二个方程,联立后即可解出完整的分布参数。
内容的提问来源于stack exchange,提问作者pradyot
相关产品推荐
相关产品推荐

