如何解决决策树算法每次运行精度不一致的问题

模型精度每次运行都发生变化，是代码中两处随机环节未固定随机状态导致的：

• 数据集拆分环节：sample.split 函数依赖随机数生成分组索引，未固定种子时每次生成的训练集、测试集样本都不相同，训练得到的模型效果自然存在差异
• 决策树训练环节：rpart 算法在选择最优分裂特征、处理特征同分情况时也包含随机逻辑，即便训练集完全一致，未固定种子也可能生成不同的树结构，最终精度出现波动

修复方法 #

在代码最开头添加固定随机种子的语句即可，种子数值可以自定义，只要固定后每次运行的随机序列就会完全一致，精度就能稳定：
set.seed(123)

数据集 #

修改后完整代码 #

# 固定随机种子，保证每次运行结果一致
set.seed(123)
heart<- read.csv("C:/Users/faris/Desktop/Project/heart.csv")
split = sample.split(heart$target, SplitRatio=0.7)
training_set_Dec= subset(heart,split==TRUE)
test_set_Dec= subset(heart,split==FALSE)
Fit_Test<- rpart(target ~. ,method = "class",data = training_set_Dec)
Fit_Test
rpart.plot(Fit_Test, box.palette="RdBu", shadow.col="gray", nn=TRUE)
# 决策树算法预测
pred_class<-predict(Fit_Test,test_set_Dec,type="class")
(Tab_Test_Dec <- table(pred_class, test_set_Dec$target,dnn=c("预测值","实际值")))
confusionMatrix(Tab_Test_Dec)
Accuracy_Dec_Test <- sum(diag(Tab_Test_Dec))/sum(Tab_Test_Dec)
Accuracy_Dec_Test
print(paste('决策树算法测试集精度',
            Accuracy_Dec_Test))

补充说明 #

如果需要更客观评估模型的实际泛化效果，建议采用K折交叉验证多次训练取平均精度，避免单次划分带来的结果偏差。

内容的提问来源于stack exchange，提问作者Faris Saud Almutairi