GLMM运行结果随二分类响应变量编码方式变化的问题咨询

• 首先明确：无分离问题的常规二分类数据中，响应编码翻转确实不会改变双侧检验的p值：此时截距估计值变为原估计的相反数，标准误完全一致，z值绝对值相等，双侧p值自然相同。你遇到的差异是极端数据+近似算法共同导致的特殊情况。
• 第一个诱因是你的数据集存在准分离问题：3名受试者的结果全部为极值（2人20次全对、1人20次全错），这种情况下二项分布的似然函数形状高度不对称，尾部没有收敛到常规的钟形，本身就会导致参数推断的稳定性下降。
• 第二个诱因是glmer默认使用的Laplace近似（nAGQ=1）精度不足：Laplace近似是对边际似然的简化估算，在似然函数形状极端、随机效应方差估计不稳定的情况下，对编码方向的敏感性会被放大，最终出现两种编码下标准误、p值存在微小差异的结果。你可以对比两种编码的输出，会发现不仅p值不同，截距的标准误、随机效应的方差估计也有微小的不一致。

• 提高近似精度：在模型中增加参数nAGQ = 15（自适应高斯Hermite积分的积分点，数值越高近似越准确），修改后的模型公式为：glmer(Response~1 + (1 |Individual), family = binomial, data=x, nAGQ = 15)，运算后两种编码的p值会基本一致。
• 换用更稳定的推断框架：你的受试者样本量只有3个，随机效应方差本身估计极不稳定，也可以考虑使用带弱信息先验的贝叶斯GLMM，或者直接针对群体水平的选择偏向做精确混合二项检验，结果可靠性会更高。

内容的提问来源于stack exchange，提问作者User108