如何获取XGBoost分类器中决定二分类结果的各特征对应阈值

你需要为10个输入特征分别计算二分类判定阈值，满足特征值 > 阈值时样本归为True类，否则归为False类，最终输出带特征-阈值映射的DataFrame，示例效果如下：

以下提供两种常用实现方案，按需选择即可：

• 方案1：提取与训练好的XGBoost模型决策逻辑一致的阈值
  该方案直接从你已经训练完成的XGBoost树结构中提取拆分阈值，取每个特征所有拆分点的中位数/出现频次最高值作为最终判定阈值，和模型本身的决策逻辑对齐：

  import pandas as pd
  import xgboost as xgb
  
  # 替换为你自己训练好的XGBClassifier实例
  trained_xgb_model = XGBClassifier() 
  
  # 导出所有树的节点拆分明细
  tree_split_detail = trained_xgb_model.get_booster().trees_to_dataframe()
  # 过滤叶子节点，仅保留特征拆分记录
  feature_split_records = tree_split_detail[tree_split_detail["Feature"] != "Leaf"][["Feature", "Split"]]
  
  # 按特征分组计算阈值，这里用中位数，也可替换为lambda x: x.value_counts().index[0]取出现次数最多的拆分阈值
  feature_threshold_df = feature_split_records.groupby("Feature")["Split"].agg(
      判定阈值 = "median"
  ).reset_index().rename(columns = {"Feature": "特征名称"})
  
  # 输出结果即为所需DataFrame
  print(feature_threshold_df)
  

• 方案2：计算单特征自身对标签的最优分类阈值
  该方案不依赖XGBoost模型的训练逻辑，直接基于原始样本的特征和标签，用ROC约登指数计算单个特征的最优二分类阈值：

  import pandas as pd
  import numpy as np
  from sklearn.metrics import roc_curve
  
  # 替换为你自己的特征矩阵X（DataFrame格式，列名为特征名）和标签y（布尔类型）
  X = pd.DataFrame()
  y = pd.Series(dtype="bool")
  
  threshold_result = []
  for feature_name in X.columns:
      # 计算当前特征的ROC曲线参数
      fpr, tpr, thresholds = roc_curve(y, X[feature_name])
      # 取约登指数最大对应的阈值为最优阈值
      youden_index = tpr - fpr
      best_threshold = thresholds[np.argmax(youden_index)]
      threshold_result.append({"特征名称": feature_name, "判定阈值": best_threshold})
  
  feature_threshold_df = pd.DataFrame(threshold_result)
  # 输出结果即为所需DataFrame
  print(feature_threshold_df)
  

如果你仅需要核心特征的阈值，可以先按XGBoost输出的特征重要性筛选排名靠前的特征，再执行上述代码即可。
若严格要求特征>阈值归为True的规则，可在方案2中增加校验：统计(X[col]>阈值) == y的准确率，若低于反向规则的准确率，可调整阈值取反逻辑，或更换评估指标重新计算阈值。

内容的提问来源于stack exchange，提问作者rudraThaker