LightGBM如何编码分类特征？为何未采用独热编码？

没错！你猜对了——LightGBM压根没用到独热编码来处理分类特征，这正是它在处理高基数类别数据时速度碾压传统方法的关键所在。下面具体说说它的处理逻辑：

核心编码逻辑：基于目标统计量的类别排序映射 #

LightGBM会自动为每个分类特征的类别计算目标变量的统计值（分类任务用类别概率均值，回归任务用目标值均值），再根据这个统计值对所有类别排序，最后把每个类别映射成对应的排序数值。举个简单例子：

假设你有个分类特征「城市」，每个城市对应用户的购买转化率分别是：A市30%、B市15%、C市25%。LightGBM会按转化率从高到低排序：A(30%)→C(25%)→B(15%)，然后把A映射为3，C映射为2，B映射为1（排序方向不影响模型核心效果）。

这种方式的核心优势：

• 把多类别特征压缩成单维度数值特征，彻底避免独热编码带来的维度爆炸问题；
• 保留了类别间的相对重要性关联，不像独热编码那样把每个类别变成孤立的二元特征，丢失了潜在的顺序或相关性信息。

决策树分裂时的高效处理 #

在构建决策树分裂节点时，LightGBM不会像处理数值特征那样遍历所有可能的分裂点，而是直接基于预先排序好的类别序列，快速寻找最优分裂位置。比如上面的「城市」特征，它只会在A-C、C-B这两个分界点中评估分裂收益，而不用处理独热编码后的3个二元特征，计算量大幅降低。

直接支持类别型输入 #

你完全不需要手动转换类别特征，只要在参数里指定哪些是分类特征即可。比如Python中可以这样配置：

# 构建训练数据集时指定分类特征
train_data = lgb.Dataset(X_train, label=y_train, categorical_feature=["city", "product_category"])
# 或者在训练时通过参数指定
params = {
    "objective": "binary",
    "categorical_feature": ["city", "product_category"]
}
model = lgb.train(params, train_data)

这种自动处理的方式，既节省了预处理时间，又能保证模型对分类特征的利用效率。

内容的提问来源于stack exchange，提问作者Skinishh