确定性模型训练是否需要划分训练集与测试集？

首先需要澄清一个普遍的认知偏差：GLM这类采用确定性求解逻辑的模型“完全不会过拟合”的说法并不成立。

OLS、逻辑回归、零膨胀模型等GLM类算法的参数求解确实是对训练集损失函数的凸优化，得到的是全局唯一最优解，但这个“最优”仅仅是针对当前训练样本的最优，不代表模型学到的规律可以推广到同分布的其他样本。最典型的例子：给普通线性回归加入远多于样本量的高阶多项式特征，哪怕参数依然是确定的唯一解，也会出现训练集拟合度接近100%、新样本预测误差极高的过拟合表现，过拟合的核心是模型学到了训练集独有的噪声关联，和参数求解是否有随机性没有直接关系。

无论模型类型都需要做数据集划分的核心原因 #

• 评估真实泛化能力：所有模型最终都要落地到未见过的新数据上使用，训练集上计算的拟合指标（比如R²、准确率、AUC）天生是向上偏移的乐观估计，只有在完全未参与训练的测试集上得到的评估结果，才能反映模型上线后的真实表现。GLM类模型做特征筛选、变量转换时，如果仅参考训练集效果，很容易筛选出仅在当前样本中成立的虚假关联，划分数据集才能有效识别这类问题。
• 超参数调优需求：GLM类模型同样存在大量超参数需要调整，比如正则化线性回归的L1/L2惩罚系数、零膨胀模型的分布假设选择、是否加入交互项/多项式项的决策等，这些超参数如果仅基于训练集效果选择，必然会偏向于拟合训练集噪声，需要用独立的验证集来筛选泛化能力最好的超参数组合。
• 排查数据泄露风险：特征归一化、缺失值填充、类别编码等预处理步骤如果使用全量数据集的统计量计算，本质上是把测试集的信息提前泄露到了训练过程中，会导致评估结果虚高。只有提前完成数据集划分，所有预处理逻辑仅在训练集上拟合后再应用到测试集，才能得到可信的效果评估结果。

你提到的GLM和树类集成模型的差异，本质是参数求解的收敛逻辑差异：GLM的损失函数是凸函数，无论初始化状态如何最终都会收敛到同一个全局最优解；而随机森林、LightGBM等集成模型的训练过程引入了样本采样、特征随机选择等随机逻辑，不同初始化条件下得到的模型参数会有差异，但两类模型的过拟合风险来源是一致的，不存在“确定性模型就不需要做泛化验证”的特殊性。

内容的提问来源于stack exchange，提问作者Henrique Branco