二元正态分布随机变量互信息计算的技术问询
大家好,我最近在计算二元正态分布随机变量的互信息时遇到了卡顿,想请教下各位的思路:
已知联合分布为:
$$
\left[\begin{array}{c}
X\
Y
\end{array}\right]\sim\mathcal{N}\left(\left[\begin{array}{c}
0\
0
\end{array}\right],\left[\begin{array}{cc}
\sigma^{2} & \rho\sigma^{2}\
\rho\sigma^{2} & \sigma^{2}
\end{array}\right]\right)
$$
我需要计算互信息 $I(X;Y)$,它的定义式是:
$$
\int\limits {-\infty}^{\infty}\int\limits {-\infty}^{\infty}f{X,Y}\left(x,y\right)\log\left(\frac{f{X,Y}\left(x,y\right)}{f_{X}\left(x\right)f_{Y}\left(y\right)}\right)dxdy
$$
我先用对数的运算规则把互信息拆成了下面的形式:
$$
I\left(X;Y\right)=\iint\limits {\mathbb{R}^{2}}f{X,Y}\left(x,y\right)\left[\ln\left(f_{X,Y}\left(x,y\right)\right)-\ln f_{X}\left(x\right)-\ln f_{Y}\left(y\right)\right]dxdy=
$$
之后我想着用边际分布的熵来关联推导,结果推到这一步就卡住了:
$$
I\left(X;Y\right)=H\left(\left[\begin{array}{c}
X\
Y
\end{array}\right]\right)+H\left[X\ri...
$$
有没有大佬能帮我补全后续推导,或者给点针对性的思路呀?
备注:内容来源于stack exchange,提问作者Danny Blozrov

