Excel与R小数存储精度差异引发lme4混合模型收敛问题问询

• R默认遵循IEEE 754标准使用64位双精度浮点数存储数值，有效精度覆盖15~17位有效数字，不存在固定保留多少位小数的规则。日常看到的默认显示6位小数只是输出层的展示设置，和内存中存储的实际值无关。
• Excel同样采用IEEE 754双精度浮点数存储，但存在两个特殊处理逻辑：一是仅保留15位有效数字，超出部分会直接截断；二是在读取文本格式数值（比如CSV文件）、编辑单元格内容时，会反复做十进制-二进制的双向转换，每一次转换都会产生舍入误差。

你观测到的1e-15~1e-16量级的差值，本质是双精度浮点数进制转换的固有舍入误差。注意你当前直接用默认参数调用write.csv导出再读入也会出现同量级误差，因为write.csv默认仅写入7位有效数字，本身就没有保留全部精度，不是只有经过Excel处理才会引入偏差。

• 调整CSV导出参数保留全精度
  导出CSV时手动指定写入17位有效数字，覆盖双精度浮点数的全部精度范围，避免导出环节丢精度：

  write.csv(Experiment1, "experiment.csv", row.names = FALSE, digits = 17)
  

  该方法导出的文件如果仅用Excel打开查看，不会产生偏差；但如果在Excel中手动编辑后保存，Excel还是会自动将数值截断到15位有效数字引入误差，适合不需要在Excel中修改数据的场景。
• 直接导出原生.xlsx格式文件
  使用openxlsx包直接写入二进制格式的Excel文件，跳过CSV的文本转换环节，数值会直接以双精度形式存入文件，不会引入进制转换误差：

  library(openxlsx)
  write.xlsx(Experiment1, "experiment.xlsx", row.names = FALSE)
  

  该方法导出的文件在Excel中打开、做格式调整不会损失精度，但如果手动编辑数值单元格再保存，依然会触发Excel的15位有效数字截断逻辑。
• 固定数值精度适配跨软件流转
  如果数据必须经过Excel编辑后再导回R，可以在导出前就将数值四舍五入到实际分析需要的精度（比如你的logResponseTime仅需6位小数即可满足分析需求），从根源上避免随机舍入误差：

  Experiment1$logResponseTime <- round(Experiment1$logResponseTime, 6)
  

  截断后只要不超过预设的精度范围，无论在R和Excel之间流转多少次，都不会出现随机的微小偏差。

• lme4包的混合模型采用数值迭代优化求解，收敛判断是基于梯度阈值、似然变化量等数值指标做判断。如果模型本身就处于收敛临界状态——比如似然面在极值点附近非常平坦、随机效应方差趋近于0、存在弱共线性问题，那么哪怕是1e-15量级的输入扰动，都可能让优化结果刚好落在收敛阈值的两侧，出现“有时收敛、有时不收敛”的现象。
• 这类临界状态下的收敛警告不代表模型结果有问题。你可以做几个验证：一是对比两份数据跑出的模型系数、随机效应方差估计值，如果差异远小于系数本身的标准误，说明结果是稳定的，收敛警告只是数值扰动带来的误报，可以忽略；二是调整优化器、增加迭代次数，比如在lmer调用时通过lmerControl指定用bobyqa或Nelder_Mead优化器、提高迭代上限，通常就能消除临界状态下的警告；三是检查模型设定是否合理，比如是否存在过度拟合的随机效应结构、是否需要对变量做标准化处理。

内容的提问来源于stack exchange，提问作者Agata