DCGAN训练无进展、生成图像调色板趋同的排查优化问题

解答内容 #

问题1：问题解读与搜索关键词 #

你当前遇到的是典型的**部分模式崩溃（Partial Mode Collapse）**问题，核心表现为生成器仅能学习到训练数据中极小一部分的分布特征，输出的所有样本都高度趋同，同时训练多轮后生成质量没有明显提升。
你可以使用这些关键词搜索对应解决方案：DCGAN模式崩溃、GAN生成图像高度相似、GAN调色板单一、DCGAN不收敛、GAN生成质量差。
从你提供的代码可以直接定位到几个导致当前问题的核心错误：

• 损失函数实现错误：你对标签做了噪声添加和平滑处理后，计算交叉熵损失时仍然使用了原始的输出值，没有和处理后的标签对应，导致标签优化策略完全没有生效。
• 优化器配置不符合DCGAN标准：DCGAN要求Adam优化器的β1参数设置为0.5，默认的0.9会导致训练过程震荡不稳定。
• 学习率配比不合理：当前生成器学习率是判别器的5倍，判别器更新速度过慢，生成器很快就能骗过判别器，得不到有效梯度更新，就会停滞在少数几种能骗过判别器的简单输出上。
• 生成器添加了不必要的Dropout层：标准DCGAN的生成器不需要加Dropout，额外的随机性会阻碍生成器学习稳定的图像特征。

问题2：调色板相似的问题判断 #

如果仅在训练前3-5个epoch出现调色板相似的情况，属于GAN训练早期的正常现象，此时生成器还在学习基础的颜色分布特征。但如果调整了多组超参数、训练超过10个epoch后该问题仍然存在，就属于异常情况，本质就是上面提到的部分模式崩溃。

可直接落地的优化方案 #

你可以先按照标准DCGAN的配置修改代码，验证是否能解决问题：

1. 删除生成器中的所有Dropout层
2. 将生成器和判别器的Adam优化器β1参数设置为0.5，两者学习率统一设置为0.0002，保证判别器和生成器的更新速度匹配
3. 修正损失函数代码，交叉熵计算时使用处理后的标签和对应输出匹配
4. 将训练轮次提升到至少100轮，艺术图像的特征复杂度远高于普通数据集，8轮训练远达不到收敛的程度
5. 生成器激活函数优先使用LeakyReLU，避免出现ReLU常见的梯度消失问题

内容的提问来源于stack exchange，提问作者j0ngle