You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

二元正态分布随机变量互信息计算的技术问询

二元正态分布随机变量互信息计算的技术问询

大家好,我最近在计算二元正态分布随机变量的互信息时遇到了卡顿,想请教下各位的思路:

已知联合分布为:
$$
\left[\begin{array}{c}
X\
Y
\end{array}\right]\sim\mathcal{N}\left(\left[\begin{array}{c}
0\
0
\end{array}\right],\left[\begin{array}{cc}
\sigma^{2} & \rho\sigma^{2}\
\rho\sigma^{2} & \sigma^{2}
\end{array}\right]\right)
$$

我需要计算互信息 $I(X;Y)$,它的定义式是:
$$
\int\limits {-\infty}^{\infty}\int\limits {-\infty}^{\infty}f{X,Y}\left(x,y\right)\log\left(\frac{f{X,Y}\left(x,y\right)}{f_{X}\left(x\right)f_{Y}\left(y\right)}\right)dxdy
$$

我先用对数的运算规则把互信息拆成了下面的形式:
$$
I\left(X;Y\right)=\iint\limits {\mathbb{R}^{2}}f{X,Y}\left(x,y\right)\left[\ln\left(f_{X,Y}\left(x,y\right)\right)-\ln f_{X}\left(x\right)-\ln f_{Y}\left(y\right)\right]dxdy=
$$

之后我想着用边际分布的熵来关联推导,结果推到这一步就卡住了:
$$
I\left(X;Y\right)=H\left(\left[\begin{array}{c}
X\
Y
\end{array}\right]\right)+H\left[X\ri...
$$

有没有大佬能帮我补全后续推导,或者给点针对性的思路呀?

备注:内容来源于stack exchange,提问作者Danny Blozrov

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.04.16 13:10:31