GAN训练中能否同时训练生成器(generator)和判别器(discriminator)？

AI 小北

2026-9-28

GAN为什么要交替训练判别器和生成器，而非同时训练

GAN的训练本质是两个网络的极小极大博弈，不能同时训练的核心原因和二者的优化目标完全对立有关，具体可以拆解为以下几点：

同时训练会导致梯度更新方向互相抵消
判别器的目标是尽可能区分真实样本和生成样本，生成器的目标是尽可能骗过判别器，二者的损失函数是完全对立的。如果同时更新两个网络的参数，判别器刚学到的区分特征会立刻被生成器的更新抵消，生成器刚找到的欺骗判别器的方向也会立刻被判别器的更新抹除，最终两边的梯度都会陷入无意义震荡，模型根本无法收敛。
交替训练是博弈过程的必然要求
极小极大博弈的最优解（纳什均衡）的搜索逻辑就是固定其中一方的参数，优化另一方，再交换身份反复迭代。你可以理解为竞技对抗中不可能双方同时调整策略，必须先让一方状态固定，另一方找当前场景下的最优应对策略，再交换身份迭代，逐步逼近双方都无法再提升的平衡状态。
实际训练中我们通常会先让判别器多训练k轮，让它先具备基本的判别能力，再训练生成器1轮，就是为了保证每次优化其中一方的时候，另一方的状态是固定的，更新方向是明确有效的。
同时训练会极易出现模式崩溃或判别器饱和
如果同时更新，很容易出现某一方短时间内强度远超另一方的情况：要么判别器太强，生成器梯度消失，怎么更新都骗不过判别器，完全学不到有效特征；要么生成器太强，判别器完全分不出真假，梯度直接饱和，再也没法给生成器提供有效的反馈信号，最终生成器就会塌缩到只输出少数几种能骗过判别器的样本，也就是常说的模式崩溃问题。