如何针对两个因变量同时开展线性回归建模

完全可以同时对两个因变量执行线性回归，这类任务属于多输出回归范畴，不需要分开训练后再手动合并结果。

基础实现（与分开训练效果完全一致） #

你之前单独训练两个单输出线性回归的做法，本质就是多输出回归的原生逻辑：两个因变量各自对应独立的回归系数，训练过程互不干扰。绝大多数机器学习库都已经封装了对应能力，直接传入双列的因变量即可，不需要额外开发：

• scikit-learn 实现示例：

from sklearn.linear_model import LinearRegression

# X 为特征矩阵，维度是 (样本数量, 90)
# y 为双列标签矩阵，维度是 (样本数量, 2)
multi_linear_model = LinearRegression()
multi_linear_model.fit(X, y)

# 输出参数说明：
# multi_linear_model.coef_ 维度为 (2, 90)，第0行是第一个因变量的特征系数，第1行是第二个的
# multi_linear_model.intercept_ 维度为 (2,)，分别对应两个因变量的截距项

直接调用接口得到的参数、预测结果，和你分开训练两个单模型得到的结果完全一致，相当于框架帮你自动完成了训练、结果合并的步骤。

进阶实现（两标签关联训练） #

如果你的两个类别标签相关性较强，希望训练过程中两个回归任务能共享信息，可以自定义损失函数，将两个因变量的预测误差加权求和后做联合优化，用PyTorch、TensorFlow这类框架实现即可，这种场景下训练得到的模型会比分开训练的效果更好。

已有两个单模型的结果合并方法 #

如果你已经完成了两个单输出模型的训练，不需要复杂的合并逻辑：

• 预测阶段：用两个模型分别对同一批特征做预测，将两个预测结果按列拼接，和多输出模型的预测结果完全相同
• 参数合并：直接把两个模型的特征系数、截距项分别汇总，即可得到和多输出模型一致的参数组

内容的提问来源于stack exchange，提问作者Oscar Ramirez