如何用GridSearchCV调优针对Pandas DataFrame的自定义估计器超参数？

我懂你这种头疼的感觉——想用GridSearchCV给针对Pandas DataFrame的自定义估计器调参（比如选列、中位数插补这类操作），结果却碰到一堆摸不着头脑的错误，比如那个'list' object has no attribute 'flags'，简直让人抓狂。其实这类问题大多是因为自定义估计器没跟上scikit-learn的API规范，或者数据类型转换出了问题，咱们一步步来解决。

那个flags错误本质是scikit-learn在处理输入数据时，期望拿到带flags属性的numpy数组，但你传入的却是list（或者没正确转换的DataFrame切片）。比如你的自定义列选择器如果直接返回列名列表，或者返回一维的Series没有转成二维数组，就会触发这个问题。

scikit-learn的所有估计器/转换器都需要遵循统一的API：继承BaseEstimator和TransformerMixin，实现fit()和transform()方法，同时保证输入输出的数据类型符合要求。下面我以列选择器、中位数插补器为例，写一个可被GridSearchCV调参的完整流程。

1. 自定义列选择器（符合sklearn规范） #

这个转换器可以接收不同的列组合作为超参数，返回二维numpy数组适配后续模型：

import pandas as pd
import numpy as np
from sklearn.base import BaseEstimator, TransformerMixin
from sklearn.model_selection import GridSearchCV
from sklearn.pipeline import Pipeline
from sklearn.linear_model import LogisticRegression

class ColumnSelector(BaseEstimator, TransformerMixin):
    def __init__(self, columns=None):
        self.columns = columns  # 支持单个列名或列名列表

    def fit(self, X, y=None):
        # fit阶段不需要做任何计算，直接返回自身即可
        return self

    def transform(self, X):
        # 先校验输入是否为DataFrame
        if not isinstance(X, pd.DataFrame):
            raise TypeError("输入必须是Pandas DataFrame")
        
        # 处理列选择逻辑
        if self.columns is None:
            return X.values  # 返回全部列的numpy数组
        elif isinstance(self.columns, str):
            return X[[self.columns]].values  # 单个列要返回二维数组（sklearn要求输入是2D）
        else:
            return X[self.columns].values  # 多列直接返回对应切片的数组

2. 自定义中位数插补器（支持指定插补列） #

这个转换器可以选择不同的列进行中位数插补，fit阶段计算中位数，transform阶段应用插补：

class MedianImputer(BaseEstimator, TransformerMixin):
    def __init__(self, columns=None):
        self.columns = columns
        self.medians_ = {}  # 存储fit阶段计算的各列中位数

    def fit(self, X, y=None):
        # 先把输入转成DataFrame（兼容numpy数组输入）
        if not isinstance(X, pd.DataFrame):
            X = pd.DataFrame(X)
        
        # 确定要插补的列
        target_cols = self.columns if self.columns is not None else X.columns
        for col in target_cols:
            self.medians_[col] = X[col].median()
        return self

    def transform(self, X):
        if not isinstance(X, pd.DataFrame):
            X = pd.DataFrame(X)
        X = X.copy()  # 避免修改原数据
        
        target_cols = self.columns if self.columns is not None else X.columns
        for col in target_cols:
            X[col] = X[col].fillna(self.medians_[col])
        return X.values

3. 组合Pipeline+GridSearchCV调参 #

现在把转换器和模型组合成Pipeline，定义参数网格，就能实现超参数调优了：

# 用加州住房数据做示例（模拟缺失值）
from sklearn.datasets import fetch_california_housing
data = fetch_california_housing()
df = pd.DataFrame(data.data, columns=data.feature_names)
df['MedHouseVal'] = data.target
# 随机生成10%的缺失值
df['AveBedrms'] = df['AveBedrms'].mask(np.random.random(len(df)) < 0.1)
df['AveRooms'] = df['AveRooms'].mask(np.random.random(len(df)) < 0.1)

# 构建Pipeline：选列 → 插补 → 模型
pipe = Pipeline([
    ('column_selector', ColumnSelector()),
    ('median_imputer', MedianImputer()),
    ('model', LogisticRegression(max_iter=1000))
])

# 定义参数网格：尝试不同的列组合、不同的插补列
param_grid = [
    {
        'column_selector__columns': [['MedInc', 'AveRooms'], ['MedInc', 'AveBedrms'], ['MedInc', 'AveRooms', 'AveBedrms']],
        'median_imputer__columns': [['AveRooms'], ['AveBedrms'], ['AveRooms', 'AveBedrms']]
    }
]

# 把回归问题转成二分类问题方便演示（你可以换成回归模型）
df['MedHouseVal_bin'] = (df['MedHouseVal'] > df['MedHouseVal'].median()).astype(int)
X = df.drop(['MedHouseVal', 'MedHouseVal_bin'], axis=1)
y = df['MedHouseVal_bin']

# 运行GridSearchCV
grid_search = GridSearchCV(pipe, param_grid, cv=5, scoring='accuracy')
grid_search.fit(X, y)

# 查看最佳结果
print(f"最佳参数组合: {grid_search.best_params_}")
print(f"最佳交叉验证得分: {grid_search.best_score_:.4f}")

• 数据类型统一：自定义转换器的transform方法最好返回numpy数组，保证和后续sklearn组件兼容；如果要返回DataFrame，要确保后续模型支持。
• 避免返回一维数据/list：sklearn的模型几乎都期望输入是二维数组，所以单个列要返回X[[col]].values而不是X[col].values（后者是一维）。
• 必须继承基类：BaseEstimator帮你实现get_params()和set_params()，这是GridSearchCV能识别并传递超参数的关键；TransformerMixin帮你实现fit_transform()方法。
• 有状态转换器的处理：像插补器这类需要在fit阶段计算统计量的，要把结果存在带下划线后缀的实例变量中（比如self.medians_），这是sklearn的约定，也能避免状态混乱。

内容的提问来源于stack exchange，提问作者dleal