如何解决XGBoost Classifier中ValueError：多分类但average='binary'

错误原因 #

你遇到的ValueError是因为目标变量属于多分类类型，但sklearn的f1_score、recall_score、precision_score默认采用average='binary'参数——该参数仅适用于二分类任务，在多分类场景下必须指定符合需求的average参数。

解决方案 #

1. 确认任务类型 #

先执行以下代码，确认目标变量的类别数量，验证多分类场景：

print("目标变量类别数量：", y.nunique())

2. 修改评估指标计算代码 #

根据多分类场景的需求，给每个指标函数添加average参数，同时修正原代码中测试集指标打印的笔误（原代码中测试集recall和precision错误调用了训练集变量）。以下是修改后的核心代码：

# 修正后的评估指标计算
f1_score_train_xgb = metrics.f1_score(y_train, y_train_xgb, average='weighted')
f1_score_test_xgb = metrics.f1_score(y_test, y_test_xgb, average='weighted')
print("XGBoost Classifier : f1_score on training Data: {:.3f}".format(f1_score_train_xgb))
print("XGBoost Classifier : f1_score on test Data: {:.3f}".format(f1_score_test_xgb))
print()

recall_score_train_xgb = metrics.recall_score(y_train, y_train_xgb, average='weighted')
recall_score_test_xgb = metrics.recall_score(y_test, y_test_xgb, average='weighted')
print("XGBoost Classifier : Recall on training Data: {:.3f}".format(recall_score_train_xgb))
print("XGBoost Classifier : Recall on test Data: {:.3f}".format(recall_score_test_xgb))
print()

precision_score_train_xgb = metrics.precision_score(y_train, y_train_xgb, average='weighted')
precision_score_test_xgb = metrics.precision_score(y_test, y_test_xgb, average='weighted')
print("XGBoost Classifier : precision on training Data: {:.3f}".format(precision_score_train_xgb))
print("XGBoost Classifier : precision on test Data: {:.3f}".format(precision_score_test_xgb))

3. average参数选择说明 #

• 'macro'：计算每个类别的指标后取算术平均，不考虑类别样本量差异
• 'weighted'：按每个类别的样本数量加权平均，适合类别不平衡的数据集
• 'micro'：基于全局的TP、FP、FN计算指标，注重整体分类表现
• None：返回每个类别的单独指标值，适合需要分析单个类别表现的场景

额外提示 #

从你给出的准确率结果来看，训练集准确率0.986，测试集仅0.548，模型存在严重过拟合问题，后续可以通过调整XGBoost的超参数（如max_depth、learning_rate、subsample等）来优化模型泛化能力。

内容的提问来源于stack exchange，提问作者bat