R语言GLM离群值检测与移除——基于二元Logistic模型

看起来你已经在二元Logistic回归的离群值诊断上迈出了关键一步，结合你已经生成的图表和代码，我来帮你把整个检测和移除流程补全并梳理清楚：

一、先明确你已用指标的意义 #

你用到的几个诊断统计量是识别离群值/影响点的核心工具，再帮你明确下：

• 帽子值（Hat-values）：衡量单个观测对模型拟合的杠杆作用，值越大说明这个观测对模型参数的潜在影响越强。常用阈值是 2*(p+1)/n，其中p是回归变量数（你的情况是4），n是总样本量。
• 学生化残差（Studentized Residuals）：用来找出模型拟合效果极差的观测，一般来说绝对值大于3（样本量较大时可放宽到2）的观测需要重点关注。
• DFFITS：衡量移除某一观测后，预测值的变化幅度，绝对值超过 2*sqrt((p+1)/(n-p-1)) 的观测通常被认为是强影响点。

二、补充完成剩余的诊断图表 #

你提到的cov.ep大概率是指Cook距离（Cook's Distance）——这也是判断影响点的经典指标，补上计算和绘图的代码：

# 计算Cook距离并绘制索引图
cook.ep <- cooks.distance(model_logit)
plot(id, cook.ep, type="l", col="#E69F00", main="Cook's Distance Index Plot", xlab="Identification", ylab="Cook's Distance")
# 也可以用glm自带的诊断图快速查看
plot(model_logit, which=4)

Cook距离的常用阈值是4/n，超过这个值的观测有较大概率是影响点。

三、量化筛选离群值/影响点 #

光看图表不够，用代码把符合阈值条件的观测筛选出来，方便后续分析：

n <- nrow(model_logit$model)
p <- length(model_logit$coefficients) - 1  # 减去截距项，你的场景p=4

# 计算各指标的判断阈值
hat_threshold <- 2*(p+1)/n
dffits_threshold <- 2*sqrt((p+1)/(n-p-1))
cook_threshold <- 4/n

# 筛选出满足任一异常条件的观测索引
outlier_indices <- which(hat.ep > hat_threshold | abs(rstudent.ep) > 3 | abs(dffits.ep) > dffits_threshold | cook.ep > cook_threshold)

# 查看这些异常观测的具体数据
print(model_logit$model[outlier_indices, ])

四、移除离群值的关键注意事项 #

这里一定要提醒你：不要盲目删除异常观测，先做这几步判断：

• 先检查这些观测是不是数据录入错误（比如整数变量出现了远超合理范围的值、二元变量编码错误），如果是数据错误，优先修正而非删除；
• 如果是真实存在的极端观测，结合业务背景判断它是否属于合理的极端情况（比如某些特殊用户的行为数据），如果是合理的，考虑用稳健Logistic回归（比如robust包的glmRob）替代普通Logistic，而不是直接删除；
• 确认要删除后，记得重新拟合模型并再次做诊断，确保没有新的极端影响点出现，同时对比删除前后模型的系数、拟合效果变化，保证模型更稳健。

五、重新拟合清洗后的模型 #

如果确认要移除这些异常观测，执行以下代码完成后续步骤：

# 创建移除异常值后的干净数据集
data_clean <- model_logit$model[-outlier_indices, ]

# 重新拟合二元Logistic模型
model_logit_clean <- glm(response ~ ., data = data_clean, family = binomial())

# 再次绘制诊断图表验证效果
par(mfrow = c(2,2))
hat.ep_clean <- hatvalues(model_logit_clean)
rstudent.ep_clean <- rstudent(model_logit_clean)
plot(hat.ep_clean, rstudent.ep_clean, col="#E69F00", main="Hat-values vs Studentized Residuals (Cleaned)", xlab="Hat value", ylab="Studentized residual")

dffits.ep_clean <- dffits(model_logit_clean)
plot(1:nrow(data_clean), dffits.ep_clean, type="l", col="#E69F00", main="Index Plot (Cleaned)", xlab="Identification", ylab="Diffits")

cook.ep_clean <- cooks.distance(model_logit_clean)
plot(1:nrow(data_clean), cook.ep_clean, type="l", col="#E69F00", main="Cook's Distance (Cleaned)", xlab="Identification", ylab="Cook's Distance")

内容的提问来源于stack exchange，提问作者user1607