Caret包varImp函数在非树模型报错问题求助

我在R语言中使用caret包构建了六个模型，其中SVM和pcaNN模型表现良好，希望通过varImp()函数对比二者的特征排序差异，但运行时出现如下错误：

Warning in mean.default(y, rm.na = TRUE) : argument is not numeric or logical: returning NA
Error in y - mean(y, rm.na = TRUE) : non-numeric argument to binary operator

此前版本的caret无该报错，使用XGB、RF等树模型时varImp()可正常生成特征重要性列表。模型构建代码如下：

set.seed(420) 
svmMod <- train(Class ~ .,  
                data = train_dataset, 
                method = "svmRadial", 
                tuneLength = TuneLength, 
                importance = TRUE,  
                trControl = train.control)

我尝试安装旧版本caret但未成功，且在R 4.2.1、4.2.2、4.3.0三个版本搭配caret 6.0-94时均出现此问题，请问如何解决？

方法1：手动计算排列特征重要性 #

caret 6.0-94版本对svmRadial模型的varImp()实现存在兼容问题，可通过排列重要性手动计算，这是通用且可靠的特征重要性评估方法：

1. 加载依赖包

library(caret)
library(kernlab)

2. 定义计算函数

permute_importance <- function(model, data, target_col) {
  # 获取原始模型准确率
  original_pred <- predict(model, data)
  original_acc <- confusionMatrix(original_pred, data[[target_col]])$overall["Accuracy"]
  
  # 逐个打乱特征，计算性能下降幅度
  imp_scores <- sapply(setdiff(colnames(data), target_col), function(col) {
    permuted_data <- data
    permuted_data[[col]] <- sample(permuted_data[[col]])
    permuted_pred <- predict(model, permuted_data)
    permuted_acc <- confusionMatrix(permuted_pred, data[[target_col]])$overall["Accuracy"]
    original_acc - permuted_acc
  })
  
  # 整理为排序后的结果
  imp_df <- data.frame(Feature = names(imp_scores), Importance = imp_scores)
  imp_df[order(-imp_df$Importance), ]
}

3. 调用函数得到特征重要性

svm_imp <- permute_importance(svmMod, train_dataset, "Class")
print(svm_imp)

方法2：改用e1071包的SVM实现 #

尝试切换svmRadial的底层实现为e1071包，再调用varImp()：

svmMod_e1071 <- train(Class ~ .,  
                      data = train_dataset, 
                      method = "svmRadial", 
                      tuneLength = TuneLength, 
                      importance = TRUE,  
                      trControl = train.control,
                      metric = "Accuracy",
                      package = "e1071")
# 调用varImp
varImp(svmMod_e1071)

方法3：成功安装旧版本caret #

若必须使用旧版本，可通过devtools从CRAN归档安装：

# 安装devtools（若未安装）
install.packages("devtools")
library(devtools)
# 卸载当前caret版本
remove.packages("caret")
# 安装指定旧版本，例如6.0-92
install_version("caret", version = "6.0-92", repos = "http://cran.us.r-project.org")

注意：旧版本可能依赖特定版本的依赖包，安装时需根据报错提示调整对应包的版本。

补充：线性SVM的权重提取（仅适用线性核） #

如果可切换为线性核SVM（method = "svmLinear"），可直接提取模型权重：

linear_svm <- train(Class ~ ., data = train_dataset, method = "svmLinear", importance = TRUE, trControl = train.control)
svm_weights <- linear_svm$finalModel@coef

内容的提问来源于stack exchange，提问作者Lemurguy87