多元柯西分布相关矩阵定义的技术疑问（含熵公式）

嘿，这个问题提得特别关键——毕竟多元柯西分布的矩特性和我们熟悉的高斯分布完全不一样，常规的协方差/相关系数思路在这里确实走不通。先把你提到的内容列出来：

我在资料第70页找到p元柯西分布的熵计算公式：$H(X,R) = \frac{1}{2}\log(\det(R))+f(p)$，其中$X=(X_1,X_2,\dots,X_p)$是服从p元柯西分布的随机变量向量，R是X的相关矩阵，f为某一函数。我存在疑问：如何为多元柯西分布定义相关矩阵？通常人们会通过协方差$Cov(X_i,X_j)$来定义相关系数$R_{ij}$，但……

核心问题：常规协方差定义为什么失效？ #

咱们得先明确：单变量柯西分布的一阶矩（均值）都不存在，更别说二阶矩（方差、协方差）了。推广到p元柯西分布，任意两个分量的协方差$Cov(X_i,X_j) = E[(X_i-E[X_i])(X_j-E[X_j])]$根本没法计算——连期望$E[X_i]$都不存在，这个式子从根上就不成立。所以用常规协方差来定义相关系数的路子，在多元柯西分布这里完全走不通。

多元柯西分布的相关矩阵怎么定义？ #

实际上，多元柯西分布的参数化是基于尺度矩阵而非协方差矩阵的，相关矩阵就是从这个尺度矩阵推导出来的：

• 先看p元柯西分布的标准参数化：$X = \mu + \sqrt{W} A Z$，其中：
  • $\mu$是位置向量（类似高斯分布的均值，但不是期望）
  • $W \sim \chi^2(1)$（自由度为1的卡方分布），且和Z独立
  • $Z$是p元标准正态分布
  • $A$是p×p非奇异矩阵，对应的尺度矩阵$\Sigma = A A^T$（用来刻画分布的“散布程度”，不是协方差）
• 基于尺度矩阵$\Sigma$定义相关矩阵$R$：
  对任意$i,j$，$R_{ij} = \frac{\Sigma_{ij}}{\sqrt{\Sigma_{ii} \Sigma_{jj}}}$
  这个定义形式上和高斯分布里的相关系数一致，但它完全不依赖于矩的存在性，只是用来刻画分量之间的相依结构。你熵公式里的$R$，就是这个基于尺度矩阵推导出来的相关矩阵。

额外补充 #

这种基于尺度参数的相关矩阵定义，在没有有限矩的分布中很常见——它保留了“标准化后分量间相依程度”的直观含义，同时避开了矩不存在的问题。而公式里的$f(p)$是只和维度p有关的常数，比如可以推导得到$f(p) = \frac{p+1}{2}\log(\pi) + \psi\left(\frac{p+1}{2}\right)$（其中$\psi$是digamma函数）。

内容的提问来源于stack exchange，提问作者Alice Schwarze