如何在R中用caret包的train()和varImp()整合逻辑回归系数与变量重要性

步骤1：加载依赖包与准备数据 #

library(caret)
library(tibble)

# 构造二分类示例数据（以iris数据集改造）
data(iris)
iris_bin <- iris[iris$Species != "setosa", ]
iris_bin$Species <- factor(iris_bin$Species, levels = c("versicolor", "virginica"))

步骤2：训练逻辑回归模型 #

set.seed(123) # 保证结果可复现
train_control <- trainControl(method = "cv", number = 5)
lr_model <- train(Species ~ ., data = iris_bin, 
                  method = "glm", family = "binomial",
                  trControl = train_control)

步骤3：提取变量重要性并整理 #

varImp()返回的结果以行名存储变量名，需转换为结构化数据框：

var_importance <- varImp(lr_model)$importance
var_importance_df <- rownames_to_column(as.data.frame(var_importance), var = "变量名称")
colnames(var_importance_df)[2] <- "重要性" # 重命名列

步骤4：提取模型系数并整理 #

从训练好的模型中提取最终模型的系数，按需处理截距项：

model_coefficients <- coef(lr_model$finalModel)
coef_df <- as.data.frame(model_coefficients) %>%
  rownames_to_column(var = "变量名称") %>%
  rename(系数 = model_coefficients)

# 移除截距项（如果不需要）
coef_df <- coef_df[coef_df$变量名称 != "(Intercept)", ]

步骤5：合并数据并生成最终表格 #

通过merge()按变量名称匹配合并两个数据框：

final_table <- merge(var_importance_df, coef_df, by = "变量名称", all.x = TRUE)

# 查看结果
print(final_table)

关键说明 #

• rownames_to_column是将行名转为列的关键，确保变量名称能作为合并的主键
• 二分类逻辑回归的varImp()结果只有一列重要性值，多分类场景会生成对应类别的多列，需按需选择
• all.x = TRUE参数确保所有在重要性列表中的变量都能被保留，避免因系数缺失导致数据丢失

内容的提问来源于stack exchange，提问作者John Downing