XGBoost输出非二进制预测致性能指标报错的解决方案咨询

首先得明确：你现在的核心问题是用了回归模型去做分类任务，才导致后续一系列问题。

为什么会报错？ #

你用的是XGBRegressor（XGBoost回归器），目标函数是reg:linear，所以模型输出的是连续浮点数，但f1_score是专门给分类任务设计的指标——它要求输入的真实标签和预测值都是离散的类别值（比如0/1、±1这种）。

当你把一堆连续浮点数传给f1_score时，sklearn会把每个不同的浮点数当成一个独立类别，直接把任务判定成了「多分类」，但默认的average='binary'只适用于二分类场景，所以就触发了那个报错。

至于你之前用AdaBoost、CatBoost没问题，大概率是你当时用的是它们的分类器版本（比如AdaBoostClassifier、CatBoostClassifier），而非回归器，这些模型本身就是为分类任务优化的，输出的是类别或者类别概率，自然能适配f1_score。

最优解决方案：改用XGBoost分类器 #

既然你的任务是分类（要计算F1分数），直接用XGBoost的分类器才是正确的做法，代码调整如下：

import xgboost as xgb
import sklearn.metrics as mt

# 针对二分类场景的示例（如果是多分类，看下面的补充）
xg_clf = xgb.XGBClassifier(
    objective='binary:logistic',  # 二分类用这个目标函数
    colsample_bytree=0.3,
    learning_rate=0.1,
    max_depth=5,
    alpha=10,
    n_estimators=10
)
xg_clf.fit(X_train, Y_train)
y_pred = xg_clf.predict(X_test)  # 直接输出离散类别（和你的Y_train标签格式一致，比如0/1或±1）

# 计算F1分数，二分类可以用默认的average='binary'，如果是多分类要调整参数
mt.f1_score(Y_test, y_pred)

如果是多分类任务，只需要修改目标函数并指定类别数量：

xg_clf = xgb.XGBClassifier(
    objective='multi:softmax',  # 多分类输出类别
    num_class=3,  # 替换成你的类别总数
    # 其他参数不变
)
# 计算F1时要指定average，比如'macro'/'micro'/'weighted'
mt.f1_score(Y_test, y_pred, average='macro')

退而求其次：用回归器+阈值转类别（不推荐） #

如果你因为某些原因一定要用XGBRegressor，那确实需要设置阈值把连续预测值转成离散类别，步骤如下：

1. 先明确你的真实标签格式（比如是±1还是0/1）
2. 选一个合适的阈值（比如二分类常用0或0.5，具体可以根据业务或验证集调整）
3. 把预测的浮点数转成类别

示例代码（假设标签是±1）：

import numpy as np
import xgboost as xgb
import sklearn.metrics as mt

xg_reg = xgb.XGBRegressor(objective='reg:linear', colsample_bytree=0.3, learning_rate=0.1, max_depth=5, alpha=10, n_estimators=10)
xg_reg.fit(X_train,Y_train)
y_pred = xg_reg.predict(X_test)

# 用0作为阈值，把浮点数转成±1
y_pred_class = np.where(y_pred > 0, 1, -1)

# 计算F1，注意如果是多分类要调整average参数
mt.f1_score(Y_test, y_pred_class, average='binary')

最后建议 #

优先选择「改用分类器」的方案，因为分类模型是专门针对分类任务优化损失函数的，无论是效果还是指标适配性都比用回归器硬转类别要好得多。

内容的提问来源于stack exchange，提问作者amiref