基于RandomForestRegressor的共享输入多输出独立模型高效实现

不用手动逐个创建RandomForestRegressor实例的话，有两种可靠的高效实现方式，同时也能解决你遇到的MultiOutputRegressor与手动训练结果不一致的问题：

1. 修正MultiOutputRegressor的参数匹配问题 #

你遇到的R²差异，核心原因几乎都是随机种子或模型参数不统一。MultiOutputRegressor会为每个输出特征单独初始化一个基础模型，如果你的手动单模型和MultiOutputRegressor内的随机森林参数（尤其是random_state）没对齐，结果必然出现差异。

正确的用法示例：

from sklearn.ensemble import RandomForestRegressor
from sklearn.multioutput import MultiOutputRegressor
from sklearn.datasets import make_regression
from sklearn.model_selection import train_test_split
from sklearn.metrics import r2_score
import numpy as np

# 生成测试数据
X, y = make_regression(n_samples=1000, n_features=10, n_targets=3, random_state=42)
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 统一所有模型的参数，必须指定random_state消除随机性
rf_base = RandomForestRegressor(n_estimators=100, random_state=42)
multi_rf = MultiOutputRegressor(rf_base)
multi_rf.fit(X_train, y_train)

# 手动逐个训练做对比
manual_preds = []
for i in range(y_train.shape[1]):
    rf = RandomForestRegressor(n_estimators=100, random_state=42)
    rf.fit(X_train, y_train[:, i])
    manual_preds.append(rf.predict(X_test))

# 计算并对比R²
multi_r2 = [r2_score(y_test[:, i], multi_rf.predict(X_test)[:, i]) for i in range(3)]
manual_r2 = [r2_score(y_test[:, i], manual_preds[i]) for i in range(3)]

print("MultiOutputRegressor R²:", multi_r2)
print("手动训练R²:", manual_r2)

运行这段代码会发现两者R²完全一致——因为每个输出对应的随机森林参数（包括随机种子）完全相同。

2. 自定义封装循环 #

如果不想用MultiOutputRegressor，可以自己写个轻量封装类，本质和手动循环逻辑一致，但更简洁易维护：

class MultiRFRegressor:
    def __init__(self, **rf_params):
        self.models = []
        self.rf_params = rf_params
    
    def fit(self, X, y):
        self.models = []
        for i in range(y.shape[1]):
            rf = RandomForestRegressor(**self.rf_params)
            rf.fit(X, y[:, i])
            self.models.append(rf)
    
    def predict(self, X):
        preds = [model.predict(X) for model in self.models]
        return np.column_stack(preds)

# 使用示例
custom_multi_rf = MultiRFRegressor(n_estimators=100, random_state=42)
custom_multi_rf.fit(X_train, y_train)
custom_r2 = [r2_score(y_test[:, i], custom_multi_rf.predict(X_test)[:, i]) for i in range(3)]
print("自定义封装R²:", custom_r2)

结果差异的常见诱因 #

• 随机种子未统一：随机森林的random_state控制决策树生成的随机性，MultiOutputRegressor默认会为每个子模型分配不同种子（如果基础模型没指定），而手动训练若固定种子，结果自然不同。
• 参数设置不一致：手动训练时误改n_estimators、max_depth等参数，或MultiOutputRegressor的基础模型参数未与手动模型对齐。
• 数据划分无固定种子：手动训练时划分训练/测试集未指定random_state，导致每次划分结果不同。

只要保证所有子模型的参数完全一致，MultiOutputRegressor和手动逐个训练的结果就会完全匹配。

内容的提问来源于stack exchange，提问作者Sherwin R