如何为RFECV实例传入多性能指标实现递归特征消除？

RFECV的scoring参数不支持直接传入多指标列表——因为它需要单一指标来指导特征剔除的迭代逻辑（每次迭代要判断特征增减后模型性能是否符合优化方向）。但你可以通过以下方法实现“以precision为核心选特征，同时观察其他指标变化”的需求：

方法：先完成RFECV特征选择，再手动评估多指标 #

1. 先以你最关注的precision作为scoring指标运行RFECV，得到各阶段的特征排名和最优特征子集；
2. 遍历不同特征数量的子集，用交叉验证计算每个子集的precision、recall、F1等指标。

代码示例 #

import numpy as np
from sklearn.metrics import precision_score, recall_score, f1_score

# 1. 以precision为核心指标运行RFECV
rfe = RFECV(
    estimator=clf,  # 你的XGBClassifier实例
    step=1,
    min_features_to_select=1,
    cv=cv,  # 你的StratifiedKFold实例
    scoring='precision',
    verbose=1,
    n_jobs=1
)
rfe.fit(X, y)

# 2. 遍历不同特征数量，计算多指标
metrics_summary = []
# 获取所有可能的特征数量（从min到原始特征数）
feature_counts_range = range(rfe.min_features_to_select, rfe.n_features_in_ + 1)

for n_features in feature_counts_range:
    # 筛选出排名前n_features的特征（ranking_越小，特征越重要）
    selected_mask = rfe.ranking_ <= sorted(rfe.ranking_)[:n_features][-1]
    X_subset = X[:, selected_mask]
    
    # 交叉验证计算各指标
    precisions = []
    recalls = []
    f1s = []
    for train_idx, val_idx in cv.split(X_subset, y):
        X_train, X_val = X_subset[train_idx], X_subset[val_idx]
        y_train, y_val = y[train_idx], y[val_idx]
        
        clf.fit(X_train, y_train)
        y_pred = clf.predict(X_val)
        
        precisions.append(precision_score(y_val, y_pred))
        recalls.append(recall_score(y_val, y_pred))
        f1s.append(f1_score(y_val, y_pred))
    
    # 记录平均指标
    metrics_summary.append({
        '特征数量': n_features,
        '平均精确率': np.mean(precisions).round(4),
        '平均召回率': np.mean(recalls).round(4),
        '平均F1分数': np.mean(f1s).round(4)
    })

# 输出结果
for item in metrics_summary:
    print(f"特征数：{item['特征数量']} | 精确率：{item['平均精确率']} | 召回率：{item['平均召回率']} | F1：{item['平均F1分数']}")

补充说明 #

• RFECV的核心逻辑是基于单一指标的性能变化迭代剔除特征，因此必须指定单一scoring指标；
• 上述方法既保证了以precision为核心筛选特征，又能完整观察特征数量减少时其他指标的变化趋势。

内容的提问来源于stack exchange，提问作者Arturo Sbr