我来结合实战经验给你说说多类别不平衡场景下用XGBoost的最优处理思路哈～

常见处理方法的适配性分析 #

• 欠采样（Undersampling）：对多数类样本做删减来平衡类别，但很容易丢掉多数类里的关键特征信息，多类别场景下类别越多，越容易顾此失彼，除非多数类样本量夸张到冗余，不然不推荐优先选这个。
• 过采样（Oversampling）：给少数类重复采样或者生成合成样本（比如适配多类的SMOTE变体），但要警惕过拟合——合成的样本如果太贴近原少数类，容易让模型学到噪声。如果少数类样本量极少，可以尝试，但一定要配合交叉验证控制风险。
• 修改损失函数：本质是给不同类别设置差异化惩罚权重，这其实和XGBoost自带的参数逻辑相通，也是我比较推荐的方向。

XGBoost自带weights参数的用法 #

XGBoost里的weights参数（多类别场景下比二分类常用的scale_pos_weight更灵活），作用是给每个样本分配权重，以此平衡类别对模型的影响：

• 具体操作时，你可以按类别的样本量倒数来计算权重，公式大概是：样本权重 = 总样本数 / (类别数量 * 当前类别样本数)，这样每个类别的"权重总和"基本持平，模型会更关注少数类的预测效果。
• 给你举个Python代码的实际例子：

import xgboost as xgb
import pandas as pd

# 假设df是你的数据集，target是标签列
class_counts = df['target'].value_counts()
total_samples = len(df)
num_classes = len(class_counts)

# 为每个样本计算对应权重
df['sample_weight'] = df['target'].apply(lambda x: total_samples / (num_classes * class_counts[x]))

# 构建DMatrix并传入权重参数
dtrain = xgb.DMatrix(df.drop('target', axis=1), label=df['target'], weight=df['sample_weight'])

# 设置模型参数并训练
params = {
    'objective': 'multi:softmax',
    'num_class': num_classes,
    'eval_metric': 'mlogloss'
}
model = xgb.train(params, dtrain)

多类别不平衡下的最优方案 #

综合来看，优先使用XGBoost自带的样本权重（weights）调整是最适配的选择：

1. 不需要改动原始数据集，避免了欠采样的信息丢失和过采样的过拟合风险；
2. 直接在模型训练流程里平衡类别影响，和XGBoost的树结构训练逻辑契合度极高；
3. 多类别场景下能灵活给每个类别设置对应权重，比单一修改损失函数更精准。

如果少数类样本量特别少（比如每个少数类只有个位数样本），可以考虑权重调整+少量合成过采样结合，但一定要用交叉验证严格验证模型的泛化能力，别让模型学到噪声。

内容的提问来源于stack exchange，提问作者Krithi07