奇异协方差矩阵多元截断正态分布抽样生成算法相关问询

数据老陈

2026-9-25

奇异多元截断正态分布抽样算法相关解答

存在成熟可落地的抽样算法，这类算法的核心思路都是先处理协方差矩阵的奇异性：奇异协方差代表分布的支撑集为低维线性子空间，可先将问题转化为该子空间上的非奇异多元截断正态抽样问题，再映射回原维度空间。常见的实用算法如下：

低维投影拒绝采样法
适合截断约束简单、分布实际秩较低的场景，实现逻辑最直观：
1. 对奇异协方差矩阵做特征值分解，提取所有非零特征值对应的特征向量，构造d×k维投影矩阵（d为原空间维度，k为非零特征值数量即分布实际秩）
2. 原空间随机变量可表示为X = μ + PZ，其中Z为k维非奇异多元正态分布，协方差为非零特征值构成的对角矩阵
3. 将原空间的截断约束转换为Z空间的约束，对k维非奇异截断正态做抽样后映射回原空间即可
  缺点是当截断区域复杂、k值偏高时，拒绝率会大幅上升，抽样效率极低。
带投影约束的哈密顿蒙特卡洛（HMC）算法
适合高维、截断区域复杂的场景，是目前工业界和科研场景的主流选择：
算法在普通多元截断正态HMC抽样的基础上，每轮leapfrog迭代后额外增加一步投影操作，确保样本始终落在协方差对应的支撑子空间内，同时满足截断约束，抽样稳定性和效率远高于拒绝采样。
改进Gibbs抽样法
适合变量间线性关系清晰的场景，实现门槛最低：
奇异协方差意味着部分变量是其余自由变量的线性组合，抽样时仅对自由变量集合做普通Gibbs迭代，剩余变量通过预先确定的线性关系直接计算得到，无需额外抽样。缺点是变量相关性较高时收敛速度较慢。