线性与凸关系拟合优度检验：Mantel残差下的模型选择探讨

1. 凸（U型）关系对应的模型类型 #

通常所说的凸（U型）关系，最直接对应的是二次多项式模型（形式如 y ~ x + I(x^2)）。当二次项系数为正时，曲线开口向上，呈现标准的U型凸形态。而指数模型（如 y ~ exp(x)）的曲线是单调递增或递减的，不会出现U型的凸关系，因此不用考虑用指数模型对应这种形态。

2. 线性与凸模型的拟合效果检验（针对Mantel残差） #

你用lm、ggplot、AIC这些方法是合理的——只要Mantel回归得到的残差满足普通线性模型的基本假设（独立性、正态性、方差齐性），这些方法就适用。具体步骤如下：

拟合两种模型 #

假设你的残差向量是residualsA和residualsB，先拟合线性和二次模型：

# 线性模型
lm_linear <- lm(residualsB ~ residualsA)
# 二次（U型凸）模型
lm_quad <- lm(residualsB ~ residualsA + I(residualsA^2))

模型拟合效果对比 #

• AIC/BIC数值比较：直接对比两个模型的AIC（或BIC）值，数值越小代表拟合效果越好。如果二次模型的AIC显著低于线性模型，说明U型拟合更优：

  AIC(lm_linear, lm_quad)
  BIC(lm_linear, lm_quad)
  

• 嵌套模型ANOVA检验：因为线性模型是二次模型的特例（二次项系数为0时），可以用方差分析判断加入二次项是否显著提升拟合度：

  anova(lm_linear, lm_quad)
  

  如果检验的p值小于0.05，说明二次项的加入显著改善了模型拟合，支持U型关系的存在。
• 可视化直观对比：用ggplot同时绘制两种模型的拟合曲线，直接观察哪种更贴合数据：

  library(ggplot2)
  ggplot(data.frame(A = residualsA, B = residualsB), aes(x = A, y = B)) +
    geom_point(alpha = 0.5) +
    geom_smooth(method = "lm", formula = y ~ x, color = "blue", se = TRUE) +
    geom_smooth(method = "lm", formula = y ~ x + I(x^2), color = "red", se = TRUE) +
    labs(x = "Residuals A", y = "Residuals B") +
    theme_bw()
  

验证残差假设 #

最后需要确认Mantel残差满足线性模型的假设，避免结果偏差：

# 绘制二次模型的残差诊断图
par(mfrow = c(2,2))
plot(lm_quad)

检查残差与拟合值的散点是否随机分布（方差齐性），Q-Q图是否接近直线（正态性）。如果没有明显违反假设，上述检验结果就是可靠的。

内容的提问来源于stack exchange，提问作者Tweety