如何在Scikit-Learn Pipeline中正确设置LGBM早停轮次参数？

核心错误点分析 #

1. 参数名错误：LGBM分类器的早停参数是early_stopping_rounds（复数形式），你写的early_stopping_round是无效参数，会被忽略且可能引发潜在问题。
2. eval_set格式错误：eval_set需要传入**(预处理后的特征, 标签)**的元组列表，你直接传入[X_test, y_test]会被解析为两个独立元素，导致解包时出错；同时原始X_test未经过Pipeline前两步（CountVectorizer+SelectKBest）的预处理，和训练数据的特征空间不匹配。
3. 预测方式错误：直接调用model.predict(X_test)会使用未预处理的原始测试数据，应该用训练完成的Pipeline进行预测。

修正后的完整代码 #

import lightgbm as lgb
from sklearn.pipeline import Pipeline
from sklearn.feature_extraction.text import CountVectorizer
from sklearn.feature_selection import SelectKBest, chi2
from sklearn.metrics import accuracy_score, f1_score, recall_score, precision_score, roc_auc_score, log_loss

# 初始化模型（修正参数名）
model = lgb.LGBMClassifier(
    class_weight={0: class_weights[0], 1: class_weights[1]},
    early_stopping_rounds=50,  # 改为复数形式
    eval_metric="logloss",
    learning_rate=0.1,
)

pipe = Pipeline(
    [
        ("vect", CountVectorizer()),
        ("feature_sel", SelectKBest(chi2, k=200)),
        ("model", model),
    ]
)

# 先对测试数据做预处理，匹配训练流程
# 先拟合CountVectorizer再转换，再用SelectKBest转换
vect_fitted = pipe.named_steps["vect"].fit(X_train)
X_train_vect = vect_fitted.transform(X_train)
feature_sel_fitted = pipe.named_steps["feature_sel"].fit(X_train_vect, y_train)
processed_X_test = feature_sel_fitted.transform(vect_fitted.transform(X_test))

# 训练Pipeline，传入正确格式的eval_set
pipe.fit(
    X_train,
    y_train,
    model__eval_set=[(processed_X_test, y_test)],  # 元组列表格式
    model__verbose=10  # 可选，打印早停过程信息
)

# 使用Pipeline预测（自动处理预处理）
y_pred = pipe.predict(X_test)
y_pred_proba = pipe.predict_proba(X_test)[:, 1]  # 计算logloss、ROC AUC需要概率值

# 评估指标（修正输入类型）
print(f"Accuracy: {accuracy_score(y_test, y_pred):.3f}")
print(f"F1-score: {f1_score(y_test, y_pred):.3f}")
print(f"Recall-score: {recall_score(y_test, y_pred):.3f}")
print(f"Precision-score: {precision_score(y_test, y_pred):.3f}")
print(f"ROC AUC: {roc_auc_score(y_test, y_pred_proba):.3f}")
print(f"Logloss: {log_loss(y_test, y_pred_proba):.3f}")

额外说明 #

• 预处理测试数据时，必须复用训练阶段拟合的CountVectorizer和SelectKBest，避免特征空间不一致导致的模型失效。
• log_loss和ROC AUC指标依赖模型输出的概率值，用类别标签计算会导致结果偏差或错误，因此改用predict_proba的输出。

内容的提问来源于stack exchange，提问作者dsbr__0