决策树分类器分裂方式咨询:是否支持相对特征阈值分裂?
决策树的分裂形式与特征间关系支持说明
- 传统主流决策树(比如ID3、C4.5、CART,以及sklearn、XGBoost、LightGBM等库的标准实现)仅支持基于单一特征与绝对阈值的分裂,也就是只能用
if x > 0.5这类形式的判断,没办法直接实现if x > y这种基于特征间相对关系的分裂逻辑。这类决策树的分裂机制是逐个遍历单一特征,寻找最优阈值划分数据集,不会自动识别或计算特征之间的比较关系。 - 如果需要用到特征间的相对关系(比如两个特征的差值、比值),你必须手动构建合成特征。比如新增特征
z = x - y,之后让决策树基于这个z特征进行阈值分裂,以此间接实现类似x > y的判断逻辑。决策树本身不具备自动生成这类特征间关系的能力。
内容的提问来源于stack exchange,提问作者scrrr
相关产品推荐
相关产品推荐

