如何计算两阶段WLS估计权重以解决GLM模型异方差问题

你当前的权重计算方式确实存在问题——直接用第一阶段模型的残差平方倒数，相当于把每个观测的方差直接等同于该观测的残差平方，但残差本身包含随机噪声，这样的权重会非常不稳定，无法准确捕捉异方差的模式。下面是两阶段WLS的标准实现步骤，针对你的对数链接GLM场景：

步骤1：拟合初始模型并计算拟合值 #

首先拟合你原来的对数链接模型，然后得到原始响应变量Y的拟合值（注意要对log(Y)的拟合值做指数反变换）：

model_1 <- glm(log(Y) ~ X1 + X2 + X3 + X4 + X5 + X6 + X7, data = train, family = gaussian(link = "log"))
# 计算log(Y)的拟合值
train$fitted_logY <- predict(model_1)
# 转换为Y的拟合值（反变换）
train$fitted_Y <- exp(train$fitted_logY)

步骤2：拟合方差模型，估计异方差模式 #

异方差通常表现为方差随均值（或某个自变量）变化，我们需要用残差的平方来拟合一个模型，预测每个观测的方差：

# 计算对数残差的平方（因为我们的初始模型是对log(Y)建模的）
train$resid_sq <- (log(train$Y) - train$fitted_logY)^2

# 拟合方差模型：假设残差平方随Y的拟合值变化（如果残差图显示随某个自变量变化，就替换成该变量）
var_model <- glm(resid_sq ~ fitted_Y, data = train, family = gaussian(link = "log"))

# 得到每个观测的预测方差
train$pred_var <- predict(var_model, type = "response")

提示：如果你的残差图显示异方差是随某个自变量（比如X3）变化，就把方差模型改成resid_sq ~ X3，根据实际情况调整。

步骤3：用预测方差的倒数作为权重重新拟合模型 #

现在用估计出来的预测方差的倒数作为权重，拟合最终的WLS模型：

glm_wls <- glm(log(Y) ~ X1 + X2 + X3 + X4 + X5 + X6 + X7, data = train, 
               family = gaussian(link = "log"), weights = 1/train$pred_var)

关键说明 #

• 为什么不用原始残差平方？因为单个残差包含随机误差，直接用它估计方差会引入大量噪声，而通过拟合方差模型，我们能捕捉到异方差的整体趋势，得到更稳定的权重。
• 做完WLS后，一定要再次绘制残差图，确认异方差是否得到改善。如果仍然存在问题，可以尝试调整方差模型的形式（比如加入拟合值的平方项），或者考虑其他异方差修正方法（比如稳健标准误）。

内容的提问来源于stack exchange，提问作者Mark47