DCGAN训练39轮后生成效果骤降、Loss_G异常飙升问题咨询

你遇到的是GAN训练不稳定中的判别器过拟合（过强）问题，是DCGAN训练中的常见问题：

• 前39轮训练后判别器已经学到了足够的特征区分能力，到第40轮第112个batch时，判别器已经可以近乎100%精准区分真实图像和生成图像，因此判别器损失Loss_D会跌到接近0
• 此时你用的BCELoss会出现梯度饱和：生成器的优化目标是让判别器把假图判定为真（标签为1），但判别器对假图的输出已经无限接近0，计算损失时log(0)附近的梯度要么爆炸要么完全消失，无法给生成器提供有效的更新信号，因此生成器损失Loss_G会突然飙升，后续也无法继续学习，生成质量直接崩溃
• 你的代码还存在一个加重该问题的bug：你把checkpoint加载逻辑写在了每个batch的循环内部，相当于每个batch训练前都会加载上一个batch保存的模型，每次只更新1个batch就覆盖保存，会导致判别器比正常训练更容易快速收敛到局部最优，放大了训练不稳定的问题

• 优先修复checkpoint加载逻辑：将load_checkpoint相关代码从batch循环中移出，仅在训练启动前执行一次断点加载，不要每个batch重复加载
• 调整训练频率：默认每训练1次生成器对应训练1~2次判别器，如果判别器仍然过强，可以改成每训练2次生成器再训练1次判别器，避免判别器更新过快
• 替换损失函数：将BCELoss替换为带梯度惩罚的WGAN-GP损失，从底层逻辑解决GAN梯度饱和、训练不稳定的问题，无需刻意平衡判别器和生成器的训练节奏
• 给判别器加正则：在判别器的卷积层后添加dropout层（dropout率取0.1~0.3），或者使用标签平滑策略（真实标签设为0.9而非1，假标签设为0.1而非0），降低判别器的预测置信度，避免过拟合
• 调整学习率：将判别器的学习率下调为生成器的1/2~1/4，比如生成器保持0.0002，判别器改为0.0001，放慢判别器的收敛速度
• 提前停止训练：GAN并不是训练轮次越多效果越好，当观测到判别器损失持续低于0.1、生成器损失持续飙升时，即可停止训练，取崩溃前的最优checkpoint作为最终模型

内容的提问来源于stack exchange，提问作者AMendis