如何在R中使用step()函数基于BIC准则筛选正确模型？

我明白你遇到的困惑了——用step()函数指定k=log(nrow(training))做BIC准则的模型选择，但输出里显示的还是“AIC”递减的序列，不知道怎么确认和提取真正的BIC最优模型。别担心，这其实是step()函数的一个小“特性”，我来一步步帮你理清：

为什么输出显示的是“AIC”？ #

step()函数的核心计算逻辑是基于广义AIC准则：AIC(k) = -2 * logLik + k * df，其中df是模型的参数个数（包括截距）。当你设置k=log(n)时，这个公式就等价于BIC的计算（BIC的定义就是-2*logLik + log(n)*p，p为参数数）。

但step()函数的输出列名默认还是显示“AIC”，并不会因为你改了k值就自动改成“BIC”。所以你看到的那些递减的“AIC”值，实际上就是BIC值，只是标签没更新而已。

如何确认并提取BIC最优模型？ #

1. 直接使用step()返回的对象
   你赋值的lm.BIC就是基于BIC准则筛选出来的最佳模型，不需要额外操作。比如你可以直接查看它的摘要：

   summary(lm.BIC)
   

2. 手动验证模型的BIC值
   如果你想确认这个模型的BIC是否真的是所有候选模型中最小的，可以用BIC()函数直接计算：

   # 计算最佳模型的BIC
   BIC(lm.BIC)
   
   # 也可以和全模型的BIC对比
   BIC(lm.full)
   

   你会发现lm.BIC的BIC值确实比其他候选模型更小。

3. 额外技巧：自定义输出标签（可选）
   如果你想让step()的输出显示“BIC”而不是“AIC”，可以在调用函数后手动修改输出的历史记录列名，但这只是视觉上的调整，不影响模型本身：

   # 运行step函数后，修改输出的历史记录列名
   lm.BIC$anova$BIC <- lm.BIC$anova$`AIC`
   lm.BIC$anova$`AIC` <- NULL
   

完整示例代码 #

再给你贴一个完整的可运行示例，方便你对照：

# 加载所需包和数据集
library(MASS)
data(Boston)

# 划分训练集（示例，你可以用自己的训练集）
set.seed(123)
training_idx <- sample(nrow(Boston), size = 0.7 * nrow(Boston))
training <- Boston[training_idx, ]

# 定义空模型和全模型
lm.null <- lm(medv ~ 1, data = training)
lm.full <- lm(medv ~ ., data = training)

# 基于BIC的逐步回归
lm.BIC <- step(lm.null, 
               scope = list(lower = lm.null, upper = lm.full), 
               direction = "both", 
               trace = TRUE, 
               k = log(nrow(training)))

# 提取并查看最佳BIC模型
best_bic_model <- lm.BIC
summary(best_bic_model)

# 验证BIC值
cat("最佳模型的BIC值：", BIC(best_bic_model), "\n")

内容的提问来源于stack exchange，提问作者Piyush