scikit-learn的MultiOutputRegressor能否为每个输出设置不同超参数

你之前手动覆盖estimators_属性的方案失效，是因为原生MultiOutputRegressor的拟合逻辑会优先克隆构造阶段传入的基础估计器，生成对应目标维度数量的副本覆盖estimators_，因此手动修改的属性会被重置。无需从零开发完整元估计器，可参考以下两种方案：

方案1：新版scikit-learn原生支持（最优） #

• 适用版本：scikit-learn >= 1.0
• 实现逻辑：该版本开始MultiOutputRegressor支持直接传入估计器列表作为estimator参数，列表中每个位置的估计器对应相同位置的输出目标，可提前为每个估计器配置专属超参数，拟合时不会被统一克隆的基础估计器覆盖。
• 使用示例：

from sklearn.multioutput import MultiOutputRegressor
from sklearn.ensemble import GradientBoostingRegressor
from sklearn.linear_model import Ridge

# 假设输出为3维，分别给每个目标配置不同超参数的模型
estimators = [
    # 目标1：最大深度3的梯度提升树
    GradientBoostingRegressor(max_depth=3, n_estimators=200),
    # 目标2：正则化系数alpha=1.5的岭回归
    Ridge(alpha=1.5),
    # 目标3：最大深度5的梯度提升树
    GradientBoostingRegressor(max_depth=5, n_estimators=150)
]

# 直接传入估计器列表初始化多输出回归器
model = MultiOutputRegressor(estimator=estimators)
# 正常执行拟合、预测流程即可
model.fit(X_train, y_train)
y_pred = model.predict(X_test)

方案2：低版本兼容轻量封装 #

如果使用的scikit-learn版本低于1.0，仅需对MultiOutputRegressor做少量继承重写即可，无需从零开发完整元估计器：

• 实现逻辑：重写初始化和拟合逻辑，跳过父类统一克隆基础估计器的步骤，直接使用预配置的估计器列表生成对应estimators_。
• 使用示例：

from sklearn.multioutput import MultiOutputRegressor
from sklearn.base import clone

class CustomMultiOutputRegressor(MultiOutputRegressor):
    def __init__(self, estimators):
        self.estimators = estimators
        # 父类要求的estimator参数传入占位值即可，不会实际生效
        super().__init__(estimator=None)
    
    def fit(self, X, y, sample_weight=None, **fit_params):
        # 自行克隆预配置的每个估计器，避免原实例被修改
        self.estimators_ = [clone(est) for est in self.estimators]
        # 复用父类剩余拟合逻辑
        return super().fit(X, y, sample_weight=sample_weight, **fit_params)

使用时直接传入预配置超参数的估计器列表即可，调用逻辑和方案1完全一致。

内容的提问来源于stack exchange，提问作者eschibli