如何在XGBoost的GridSearchCV中显示CV参数、得分及耗时信息？

核心问题在于GridSearchCV和XGBClassifier的verbose参数分别控制不同层级的日志，同时多进程并行会打乱输出顺序。以下是具体修改方案：

修改要点 #

• 把GridSearchCV的verbose设为3或更高，控制网格搜索本身的迭代日志输出
• 单进程运行（n_jobs=1）避免多进程导致的日志混乱
• 按需开启XGBClassifier的verbose以查看模型训练细节
• 开启return_train_score=True以包含训练集得分信息

修改后的代码示例 #

from sklearn.model_selection import GridSearchCV
from xgboost import XGBClassifier
import logging

# 确保日志级别足够，避免信息被过滤
logging.basicConfig(level=logging.INFO)

# 定义待搜索的参数网格
param_grid = {
    'max_depth': [3, 5],
    'learning_rate': [0.1, 0.01],
    'n_estimators': [100, 200]
}

# 初始化XGB分类器，verbose=1开启模型训练时的日志（不需要可设为0）
xgb_clf = XGBClassifier(verbose=1, objective='binary:logistic')

# 配置GridSearchCV：verbose=3输出详细CV信息，n_jobs=1保证日志整洁
grid_search = GridSearchCV(
    estimator=xgb_clf,
    param_grid=param_grid,
    cv=3,
    verbose=3,
    n_jobs=1,
    return_train_score=True
)

# 执行网格搜索
grid_search.fit(X_train, y_train)

# 如需查看结构化的完整结果，可打印cv_results_
# print(grid_search.cv_results_)

参数解释 #

• GridSearchCV(verbose=3)：会输出每个参数组合的CV轮次、当前参数、验证集得分、单轮耗时等核心信息
• XGBClassifier(verbose=1)：输出XGB模型训练时每棵树的训练误差、验证误差（若设置了eval_set），不需要可设为0
• n_jobs=1：多进程并行时，不同进程的日志会交叉输出导致混乱，单进程能保证日志顺序清晰
• return_train_score=True：让GridSearchCV记录训练集得分，在verbose输出和cv_results_中都会包含这部分信息

内容的提问来源于stack exchange，提问作者Paweł