pix2pix训练时生成器损失下降但判别器假样本损失上升是什么原因？

你观察到的生成器损失持续下降、判别器假样本损失先降后升的现象，核心原因是GAN的生成器与判别器优化速度不匹配，属于典型的训练不稳定问题，可对照给出的训练参数逐一排查：

• 优化器选型差异导致收敛速度失衡：生成器使用了收敛速度更快的Adam优化器，判别器使用收敛速度更慢的SGD优化器，二者使用相同学习率的前提下，生成器会快速学会骗过判别器，此时判别器无法再区分真假样本，假样本损失就会持续上升，而生成器损失的下降也不再对应生成质量的提升，只是单纯欺骗已经失效的判别器。
• L1损失权重过高：设置的L1 Lambda=100会让生成器的优化目标大幅偏向像素级的L1拟合，对抗损失的权重被严重挤压，判别器的监督信号进一步被弱化，进一步放大了双方的优化差距。
• 判别器缺少归一化层：仅生成器使用BatchNorm会让生成器的训练稳定性远高于判别器，进一步拖慢判别器的收敛速度。

修复方案 #

• 统一优化器选型：将判别器的优化器也更换为Adam，二者学习率调整为pix2pix官方推荐的2e-4，也可单独将判别器的学习率设置为生成器的1.5~2倍，保证判别器的更新速度跟上生成器。
• 降低L1损失权重：将L1 Lambda下调到10~50区间测试，平衡像素损失与对抗损失的权重，给对抗损失留出足够的优化空间。
• 给判别器也添加BatchNorm层，提升判别器的训练稳定性和收敛速度。
• 调整更新频率：每更新1次生成器，同步更新2~3次判别器，保证判别器始终具备足够的鉴别能力。

内容的提问来源于stack exchange，提问作者Soumyajit Sarkar