如何从OneVsRestClassifier模型中获取特征重要性？

OneVsRestClassifier是元估计器，仅负责将二分类器适配到多分类任务，本身没有feature_importances_属性。这个属性属于它内部包裹的基础分类器（比如RandomForestClassifier、XGBClassifier这类自带特征重要性的树模型）。

解决步骤 #

1. 确认初始化OneVsRestClassifier时传入的基础分类器支持feature_importances_（如随机森林、梯度提升树等）。
2. 训练完成后，通过模型的estimators_属性访问所有子分类器，逐个获取特征重要性。

代码示例 #

假设你用随机森林作为基础分类器：

from sklearn.multiclass import OneVsRestClassifier
from sklearn.ensemble import RandomForestClassifier
import numpy as np

# 初始化并训练模型
base_clf = RandomForestClassifier()
model = OneVsRestClassifier(base_clf)
model.fit(X_train, y_train)

# 获取每个类别对应分类器的特征重要性
for idx, clf in enumerate(model.estimators_):
    print(f"类别 {idx} 的特征重要性：")
    print(clf.feature_importances_)

# 可选：计算特征在所有类别中的平均重要性
all_importances = [clf.feature_importances_ for clf in model.estimators_]
mean_importances = np.mean(all_importances, axis=0)
print("\n特征平均重要性：")
print(mean_importances)

注意事项 #

• 如果基础分类器不支持feature_importances_（如LogisticRegression），需改用对应的coef_属性获取特征权重。
• estimators_仅在模型调用fit()训练后才会生成，未训练时访问会报错。

内容的提问来源于stack exchange，提问作者Chew CS