使用nlme包运行lme模型为何出现收敛问题？求解决方法

问题说明 #

使用nlme包拟合以下混合效应模型时，仅fm4Oats成功收敛，其余包含随机斜率的模型均出现收敛错误：

library(nlme)

# 仅含随机截距的模型（收敛成功）
fm4Oats <- lme( yield ~ nitro, data = Oats, random = ~ 1 | Block/Variety )
    
# 含随机斜率的模型（均收敛失败）
fm4Oats2 <- lme( yield ~ nitro, data = Oats, random = ~ nitro | Block/Variety )
fm4Oats3 <- lme( yield ~ nitro, data = Oats, random = ~ nitro | Block )
fm4Oats4 <- lme( yield ~ nitro, data = Oats, random = ~ nitro | Variety )

初始错误提示：

nlminb problem, convergence error code = 1
  message = iteration limit reached without convergence (10)

增加迭代次数后（设置msMaxIter = 1000, msMaxEval = 1000），出现新的收敛错误：

Error in lme.formula(yield ~ nitro, data = Oats, random = ~nitro | Variety,  : 
  nlminb problem, convergence error code = 1
  message = singular convergence (7)

收敛失败的核心原因 #

• 随机结构与数据不匹配：fm4Oats仅包含随机截距，而其他模型加入了nitro的随机斜率。Oats数据集的分组（Block/Variety）内nitro的观测数量或水平数不足，无法支撑随机斜率的参数估计，导致优化算法无法找到稳定的最优解。
• 奇异参数空间：当随机斜率的方差趋近于0时，模型进入奇异收敛状态——这说明随机斜率对模型没有实际解释力，强行加入会让算法陷入参数估计的不稳定区域。
• 初始迭代限制不足：默认的10次迭代次数太少，优化算法还未找到收敛方向就终止，因此先抛出“迭代限制到达”的错误；增加迭代次数后，算法发现参数趋近于奇异点，进而抛出“奇异收敛”错误。

可行的解决方案 #

• 简化随机结构：若没有明确的业务需求要求加入随机斜率，优先选择仅含随机截距的模型（如fm4Oats）。若必须保留随机斜率，先检查各分组内的nitro观测情况，仅在数据量充足的分组中加入随机斜率。
• 调整优化控制参数：除增加迭代次数外，可适当放宽收敛阈值（如调大msTol），帮助算法判定收敛：

fm4Oats_adjust <- lme(yield ~ nitro, data = Oats, random = ~ nitro | Variety,
                      control = list(msMaxIter = 1000, msMaxEval = 1000, msTol = 1e-4))

• 中心化自变量：对nitro进行中心化处理，减少截距与斜率间的共线性，提升优化算法的稳定性：

# 中心化nitro变量
Oats$nitro_center <- scale(Oats$nitro, center = TRUE, scale = FALSE)
# 拟合中心化后的模型
fm4Oats_center <- lme(yield ~ nitro_center, data = Oats, random = ~ nitro_center | Variety,
                      control = list(msMaxIter = 1000))

• 切换优化算法：lme默认使用nlminb，可尝试切换到BFGS等其他优化算法：

fm4Oats_bfgs <- lme(yield ~ nitro, data = Oats, random = ~ nitro | Variety,
                    control = list(optimMethod = "BFGS", msMaxIter = 1000))

• 检查并清理数据：确认每个分组内是否有足够的nitro水平和观测数，若某分组内nitro仅1个水平，直接移除该分组或简化随机结构。

内容的提问来源于stack exchange，提问作者Patrick