如何读取Sklearn GridSearchCV估计器中选中的内置参数？

这个问题我之前也碰到过——当Pipeline里的RidgeCV靠内置的高效LOOCV自动选择正则化参数，而GridSearchCV只负责调优SelectKBest的k值时，确实没法直接从GridSearchCV的常规输出（比如best_params_）里拿到RidgeCV的最优alpha。不过有个很直接的解决方案，下面给你详细说明：

核心思路 #

GridSearchCV的best_estimator_属性会保存整个Pipeline的最优拟合实例，我们可以从这个实例里提取出RidgeCV组件，然后直接访问它的alpha_属性（这是RidgeCV拟合后自动生成的，存储了LOOCV选中的最优正则化参数）。

具体代码示例 #

假设你的Pipeline和GridSearchCV定义如下，我们来修改一下获取参数的部分：

from sklearn.pipeline import Pipeline
from sklearn.feature_selection import SelectKBest, f_regression
from sklearn.linear_model import RidgeCV
from sklearn.model_selection import GridSearchCV
import numpy as np

# 生成示例数据（你可以替换成自己的数据集）
X = np.random.rand(100, 20)
y = np.random.rand(100)

# 构建Pipeline：特征选择 + RidgeCV回归
pipe = Pipeline([
    ('select', SelectKBest(f_regression)),  # 组件名：select
    ('ridge', RidgeCV(alphas=[0.01, 0.1, 1.0, 10.0, 100.0]))  # 组件名：ridge
])

# 只调优SelectKBest的k值
param_grid = {
    'select__k': [5, 10, 15, 20]
}

# 运行GridSearchCV
grid_search = GridSearchCV(pipe, param_grid, cv=5, scoring='neg_mean_squared_error')
grid_search.fit(X, y)

# 1. 获取GridSearchCV调优后的最优k值
print("ANOVA特征选择的最优k值：", grid_search.best_params_['select__k'])

# 2. 获取RidgeCV通过LOOCV选中的最优alpha
best_ridge_model = grid_search.best_estimator_.named_steps['ridge']
print("RidgeCV选中的最优正则化参数alpha：", best_ridge_model.alpha_)

关键细节解释 #

• grid_search.best_estimator_：这是整个Pipeline的最优拟合版本，包含了调优后的SelectKBest和拟合完成的RidgeCV。
• named_steps['ridge']：通过Pipeline的named_steps属性，我们可以根据组件定义时的名字（这里是ridge）提取出对应的模型实例。
• best_ridge_model.alpha_：RidgeCV在拟合完成后，会自动将LOOCV选出的最优alpha值存储在alpha_属性中，直接访问即可。

额外拓展：如果需要同时调优k和alpha #

如果你想让GridSearchCV同时负责调优SelectKBest的k和正则化参数alpha，那可以把RidgeCV换成普通的Ridge模型，然后在param_grid里加入ridge__alpha参数：

from sklearn.linear_model import Ridge

pipe = Pipeline([
    ('select', SelectKBest(f_regression)),
    ('ridge', Ridge())
])

param_grid = {
    'select__k': [5, 10, 15],
    'ridge__alpha': [0.01, 0.1, 1.0, 10.0]
}

grid_search = GridSearchCV(pipe, param_grid, cv=5)
grid_search.fit(X, y)

# 此时可以直接从best_params_里拿到两个参数
print("最优参数组合：", grid_search.best_params_)

不过这种方式会使用GridSearchCV指定的CV策略，而不是RidgeCV特有的高效LOOCV，你可以根据自己的需求选择。

内容的提问来源于stack exchange，提问作者Maryam Hnr