为何R中car包vif()与lmridge包k=0时的VIF结果存在差异?
两包VIF计算结果出现巨大偏差的核心原因
核心定义与实现口径差异
car::vif计算的是经典OLS框架下的方差膨胀因子,完全对齐经典VIF公式:VIF_j = 1/(1-R_j²),其中R_j²为第j个自变量对其余所有自变量做线性回归的拟合优度,是行业通用的多重共线性诊断指标。lmridge::vif.lmridge计算的本质是岭回归场景下的岭膨胀因子(Ridge Inflation Factor, RIF),而非经典VIF。其推导逻辑来自岭回归的系数方差协方差矩阵:Cov(β_ridge) = σ² (X'X + KI)^-1 X'X (X'X + KI)^-1,输出值为该矩阵对角线元素与OLS协方差矩阵对应元素的比值,从定义上就和经典VIF存在差异。
K=0条件下结果不匹配的实现细节偏差
- 即便设置岭参数K=0,
lmridge内部的矩阵处理逻辑也没有完全对齐OLS的计算口径:包内设置scaling = "scaled"时,自变量矩阵的标准化基准是总体标准差(分母为样本量n),而lm和car包的计算基准是样本标准差(分母为n-1),两者的交叉乘积矩阵本身就存在比例差异,直接导致逆矩阵计算结果出现系统性偏差。 - 受上述实现细节影响,
lmridge在K=0位置输出的膨胀因子数值,会比car包计算的经典VIF高出一个固定倍数,视觉上呈现“差异极大”的效果。
实操参考建议
- 若需要使用经典VIF的通用判定阈值(如5、10作为严重共线性的判定线),直接对OLS模型调用
car::vif即可,不要对标lmridge返回的K=0位置的数值。 - 若需要观察岭参数增大过程中系数方差的膨胀/收缩变化趋势,可以使用
vif.lmridge的输出值做横向趋势对比,但不要将其绝对数值和经典VIF的阈值直接挂钩。
可以通过手动计算交叉乘积矩阵验证差异:对已经经过
scale()处理的自变量矩阵,计算交叉乘积矩阵XtX = t(as.matrix(ds[, 2:3])) %*% as.matrix(ds[, 2:3]),求该矩阵的逆矩阵并提取对角线元素,得到的结果将和car::vif的输出完全匹配,与lmridge在K=0位置的输出存在固定比例的系统性偏差。
内容的提问来源于stack exchange,提问作者Regis Maria O'Connor
相关产品推荐
相关产品推荐

