R语言中需要解决glm.fit因整数变量re引发的收敛警告问题

你在执行二项式逻辑回归拟合时遇到以下警告，移除变量re后警告消失，相关代码与信息如下：

拟合代码 #

Result=glm(dep~re+ind1+ind2+ind3, data=ds,family=binomial)

警告信息 #

Warning messages:
1: glm.fit: algorithm did not converge 
2: glm.fit: fitted probabilities numerically 0 or 1 occurred 

re变量的统计信息 #

> typeof(ds$re)
[1] "integer"
> class(ds$re)
[1] "integer"
> is.numeric(ds$re)
[1] TRUE

> summary(ds$re)
   Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
  0.000   0.000   2.000   2.189   4.000   6.000 

原因分析 #

• 完全/准完全分离：这是核心问题。当re的某个（或某些）取值对应的dep结果完全为0或1时，模型会试图给这些组分配0或1的概率，但逻辑回归的对数似然函数在概率趋近0或1时会趋于无穷，导致模型系数估计值无限膨胀。
• 迭代收敛失败：系数的极端值会让GLM默认的牛顿-拉夫逊迭代算法无法找到稳定的解，直接触发“algorithm did not converge”警告，这是概率趋近0/1的连锁反应。

解决办法 #

1. 先排查分离情况 #

用交叉表查看re与dep的分布，确认是否存在某类re对应的dep只有单一取值：

table(ds$re, ds$dep)

2. 处理极端分组 #

• 合并分组：如果某类re样本量小且出现完全分离，可将其与相邻取值合并（比如把re=6和re=5合并为一组），消除极端分组。
• 移除异常样本：若某类re的样本量极小且导致分离，直接删除这些样本。

3. 调整模型形式 #

• 将re转为分类变量：re是0-6的整数，本质是有序分类变量，当作连续变量拟合会引入不合理的线性假设。转为分类变量后，模型会为每个类别单独估计系数，避免极端拟合：

  Result=glm(dep~factor(re)+ind1+ind2+ind3, data=ds,family=binomial)
  

• 使用惩罚回归：借助glmnet包添加L1/L2惩罚，约束系数大小，避免系数无限膨胀：

  library(glmnet)
  X <- model.matrix(dep~re+ind1+ind2+ind3, data=ds)[,-1]
  y <- ds$dep
  fit <- glmnet(X, y, family="binomial", alpha=0) # alpha=0对应L2惩罚
  

4. 用稳健拟合方法 #

使用brglm2包的偏似然或惩罚似然拟合，专门处理完全分离的逻辑回归问题：

library(brglm2)
Result=glm(dep~re+ind1+ind2+ind3, data=ds,family=binomial, method="brglmFit")

内容的提问来源于stack exchange，提问作者J L