从含分类变量的Random Forest模型提取变量重要性时遇报错
为什么会缺失一个depot水平?
- R处理分类因子转虚拟变量时,默认会自动丢弃一个水平作为基准组,用来避免多重共线性。你的depot有6个水平,转虚拟变量后只会生成5个列,加上其他4个变量,总共9个变量,这是正常的统计编码逻辑,不是脚本bug。
报错“colonnes non définies sélectionnées”的原因
你预设的varimps矩阵是10列(对应4个非depot变量+6个depot水平),但模型实际输出的变量重要性只有9个值(4+5)。当你用那条补NA的语句把9个值塞进10列矩阵后,后续代码试图用这个矩阵去匹配原数据的列时,矩阵里多出来的那列(对应被丢弃的depot基准水平)在原数据里根本不存在,所以报错“列未定义”。
那条补NA语句的作用
varimps[i,] <- c(r$Overall, rep(NA, 10 - length(r$Overall))) 是想把每次迭代得到的变量重要性值,用NA补齐到10个,刚好填满预设的10列矩阵。但问题出在你预设的列数错了,实际模型只有9个变量,所以这条语句不仅没用,还会制造列不匹配的问题。
具体修复步骤
先确认模型实际变量数:先跑一次模型,用
names(r$Overall)查看所有变量名,数清楚数量(应该是9个)。然后重新创建varimps矩阵:# 先跑一次模型得到变量重要性结果r r <- varImp(model) # 创建对应列数的矩阵 varimps <- matrix(NA, nrow = 100, ncol = length(names(r$Overall))) # 给矩阵列名赋值,避免后续匹配错误 colnames(varimps) <- names(r$Overall)之后每次迭代直接赋值:
varimps[i,] <- r$Overall,不需要补NA。不要手动转虚拟变量:caret的Random Forest模型可以直接处理分类因子类型的变量,把depot保留为因子(不要转成虚拟变量列),直接放进训练数据就行。模型会自动处理编码,变量重要性的输出也会和模型实际使用的变量对应,彻底避免列不匹配的问题。
如果非要手动转虚拟变量:用
model.matrix(~ . -1, data = your_data)生成所有水平的虚拟变量(不会丢弃基准组),这样就能得到6个depot相关列,加上其他4个变量共10列,和你原来的varimps矩阵列数匹配。但这种做法会增加模型变量数,RF处理分类因子本身就很高效,没必要多此一举。
内容的提问来源于stack exchange,提问作者Simon Paquin

