机器学习分类:过采样训练集后如何评估模型性能?
过采样后模型性能评估的正确方式
- 绝对不能用过采样后的训练集做最终性能评估
过采样是给训练阶段“加餐”——人为重复少数类样本,帮模型更好捕捉这类样本的特征,但过采样后的训练集已经偏离了真实数据分布。如果拿它来计算准确率、精确率、F1值等指标,结果会严重虚高,因为模型早就见过这些重复的样本了,相当于对着答案做题,完全反映不了真实能力。 - 必须只用原始划分的测试集评估
测试集从一开始就和训练集分开,保留了真实的数据分布,只有用它算出的各项指标,才能代表模型在实际场景下的表现。这是评估模型性能的核心原则——测试集必须完全独立于训练过程的任何操作(包括过采样、特征提取)。 - 额外提醒:特征提取的边界要守好
你是基于过采样后的训练集提取特征,这里要注意:所有特征提取的规则(比如特征选择的阈值、特征转换的参数)都只能从训练集(过采样后的)里推导,测试集必须严格套用这些规则来转换,不能单独对测试集做特征提取的调整,否则会造成数据泄露,同样会让评估结果失真。
内容的提问来源于stack exchange,提问作者Louise
相关产品推荐
相关产品推荐

