基于DecisionTreeClassifier的可解释性建模相关问题咨询

问题1：仅做模型解释是否需要拆分训练集与测试集 #

如果你的使用场景完全不涉及把模型结论推广到未见过的新数据，仅需要分析当前这份历史数据集内部的特征与目标的关联逻辑，不需要做数据集拆分，可以直接用全量数据训练模型，避免数据浪费。
需要注意的是：这种情况下得到的所有特征影响规律，仅在当前这份数据集上成立，没有泛化性背书，如果你后续有将结论应用到新数据的需求，依然需要拆分训练测试集验证规律的可靠性，避免挖到的是当前数据集随机噪声带来的过拟合结论。

问题2：仅极少数特征非零重要性、决策树分支少的常见原因 #

• 特征本身的相关性差异：100个特征里只有这3个和Y标签存在真实的统计关联，剩余97个特征和Y标签完全独立，或者相关性弱到无法满足决策树的分裂阈值，不会被选作分裂节点，特征重要性自然为0。
• 决策树预剪枝参数限制：如果你设置了较严格的预剪枝规则，比如max_depth（树最大深度）设置过小、min_samples_split（节点分裂所需最小样本数）设置过大、min_impurity_decrease（分裂所需最小不纯度下降值）设置过高，都会导致树提前停止生长，很多特征还没被用到就结束训练，自然不会产生非零重要性。
• 特征共线性问题：如果剩余97个特征和这3个重要特征存在高度共线性，决策树会优先选择分裂收益最高的特征使用，共线性的其他特征不会被重复选用，重要性就为0。
• 样本量不足：如果你的数据集总样本数很少，决策树只需要很少的几次分裂就能把所有样本的类别完全区分开，不需要用到更多特征，也会出现这个现象。

内容的提问来源于stack exchange，提问作者Brian Lee