如何显示SVM模型的特征重要性及特征名？解决Pipeline属性报错

嗨，我来帮你搞定这个报错！你遇到的'Pipeline' object has no attribute 'feature_importances_'问题，其实有两个核心原因：

1. cv.best_estimator_返回的是整个Pipeline对象，它本身并没有feature_importances_这个属性——这个属性是属于Pipeline里的具体模型的；
2. 更关键的是：线性核SVC并不使用feature_importances_！这个属性是决策树、随机森林这类树模型的专属。线性SVM的特征重要性是通过模型的coef_属性来体现的，它代表每个特征对应的权重系数，系数的绝对值越大，说明该特征对模型的贡献越大。

下面是完整的修正代码，我会一步步标注关键改动：

# 导入所需模块
from sklearn.preprocessing import StandardScaler
from sklearn.svm import SVC
from sklearn.pipeline import Pipeline
from sklearn.model_selection import train_test_split, GridSearchCV
import pandas as pd

# 假设你的数据已经加载完成，X是特征矩阵（带列名），y是目标变量
# X = pd.DataFrame(...)  # 确保X是DataFrame，这样能直接获取特征名称
# y = ...

# 1. 划分训练测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 2. 构建Pipeline，注意给每个步骤起名字（后面要用来提取模型）
pipe = Pipeline([
    ('scaler', StandardScaler()),  # 标准化步骤，命名为scaler
    ('svc', SVC(kernel='linear'))  # SVM模型步骤，命名为svc
])

# 3. 定义超参数空间（示例，你可以根据自己的需求调整）
param_grid = {
    'svc__C': [0.1, 1, 10],
    'svc__gamma': ['scale', 'auto']
}

# 4. 网格搜索拟合模型
grid_search = GridSearchCV(pipe, param_grid, cv=5, scoring='accuracy')
grid_search.fit(X_train, y_train)

# 5. 关键：从Pipeline中提取训练好的SVC模型，并获取特征重要性
# 先获取最佳模型里的SVC对象
best_svc = grid_search.best_estimator_.named_steps['svc']

# 获取特征权重系数，二分类时coef_形状是(1, n_features)，所以取[0]转成一维数组
feature_coefficients = best_svc.coef_[0]

# 计算特征重要性（取绝对值，因为系数正负代表影响方向，绝对值代表影响程度）
feature_importance = abs(feature_coefficients)

# 6. 把特征名称和重要性对应起来，排序后展示
feature_names = X.columns
importance_df = pd.DataFrame({
    '特征名称': feature_names,
    '重要性': feature_importance
}).sort_values(by='重要性', ascending=False)

# 打印结果
print("特征重要性排序（从高到低）：")
print(importance_df)

额外说明： #

• 如果你的任务是多分类，SVC的coef_形状会是(n_classes, n_features)，这时候你可以选择对每个类别的系数取绝对值后求平均，或者针对特定类别查看特征重要性；
• 确保你的特征矩阵X是pandas.DataFrame类型，这样X.columns才能直接获取特征名称，如果是numpy数组，你需要手动传入特征名称列表；
• 这里用绝对值是因为线性SVM的系数正负只代表特征对预测结果的影响方向（正相关/负相关），而我们关注的是特征的贡献程度，所以用绝对值更合理。

内容的提问来源于stack exchange，提问作者user9238790