使用XGBoost Scikit封装器早停时触发KeyError: 'best_msg'求助

我来帮你梳理下这个问题——结合你提供的代码片段，早停时评估指标计算失败但不用早停就正常，大概率是踩了这几个常见的坑：

1. 评估集的索引/数据对齐出问题了 #

你手动用索引划分了训练和测试集，但XGBoost的早停机制对eval_set里的数据要求很严格：特征和标签必须完全对齐，而且不能有缺失值。

• 先检查训练、测试集的索引是否完全匹配：

  print(X_train.index.equals(y_train.index))
  print(X_test.index.equals(y_test.index))
  

• 再确认测试集里没有NaN值（哪怕你已经对y做了dropna，X对应的行可能还有缺失）：

  print(X_test.isna().any().any())
  print(y_test.isna().any())
  

2. 早停相关的参数配置错了 #

用Scikit-learn封装的XGBRegressor时，早停需要几个参数配合才能生效，少一个都可能出问题：

• 必须在fit()里传入eval_set=[(X_test, y_test)]，同时显式指定eval_metric="rmse"（虽然默认是RMSE，但显式写能避免版本兼容问题）
• 要设置early_stopping_rounds（比如10，意思是连续10轮没提升就停止），还要开verbose=True看日志，方便排查
• 正确的fit调用示例：

  model = XGBRegressor(n_estimators=1000)  # 把n_estimators设大些，给早停留空间
  model.fit(
      X_train, y_train,
      eval_set=[(X_test, y_test)],
      eval_metric="rmse",
      early_stopping_rounds=10,
      verbose=True
  )
  

3. 数据集划分的逻辑有漏洞 #

你用y.dropna()[:-n_splits].index和[-n_splits:]来切分数据，要注意：

• 如果y.dropna()后的总样本数比n_splits还小，那测试集就会是空的！这肯定会导致RMSE计算失败
• 先打印样本数量确认下：

  print(f"训练集样本数：{len(X_train)}，测试集样本数：{len(X_test)}")
  

4. 数据类型不兼容 #

XGBoost不接受非数值型的特征或标签：

• 检查X的特征类型，确保都是int/float，没有object类型的列：

  print(X_train.dtypes)
  

• 确认y_train和y_test是数值型（比如float64），不是字符串或者其他奇怪的类型

如果按上面的步骤排查后还是不行，把具体的报错信息贴出来，这样能更精准定位问题~

内容的提问来源于stack exchange，提问作者NicolasWoloszko