LightGBM开启is_unbalance参数后二分类log loss迭代上升问题求助

is_unbalance参数的核心作用是自动根据正负样本占比，给少数类分配更高的训练权重，在你正样本占比3%的场景下，正样本训练权重会被设为负样本的约32倍。此时模型训练的优化目标是*加权后的二分类对数损失，和你默认观测的未加权原生binary log loss不是同一个指标。
当模型为了降低加权损失持续向正样本倾斜时，会出现大量占比更高的负样本被误判为正，而未加权的binary log loss对负样本错误的惩罚权重和正样本一致，97%占比的负样本带来的损失增量会远超过3%占比的正样本带来的损失减量，就会出现你观测到的“第一轮下降后持续上升”的现象。关闭is_unbalance时模型优化目标和你观测的指标一致，所以损失呈现正常下降趋势。

你提供的损失变化趋势如下：

• 如果你要继续使用is_unbalance参数，训练过程中切换观测加权二分类对数损失即可看到正常下降的损失曲线，该指标才是模型实际优化的目标。
• 如果你核心关注未加权binary log loss或者业务侧的AUC、F1、召回率等实际业务指标，建议替换is_unbalance为scale_pos_weight参数手动调整权重，同时配置早停机制，监控你实际关注的指标，而非原生binary log loss。
• 也可以尝试对负样本做下采样、对正样本做SMOTE上采样等样本均衡操作，规避加权训练带来的损失观测异常问题。

内容的提问来源于stack exchange，提问作者jsanjayce