从零搭建的GAN生成器无法正常学习是训练方法有误吗？

核心问题结论 #

• 你理解的生成器输出本质就是判别器输入这个逻辑完全正确，训练生成器时冻结判别器权重、通过判别器的判别误差反向更新生成器的大方向是对的，不存在原理性错误。
• 你当前采用的「先把误差反传到判别器输入层，再单独把该层误差传给生成器反传」的两步反传操作存在很高的实现风险，这大概率是生成器学不到有效内容的核心原因，不是思路错了，是拆分反传的实现很容易切断梯度链路。

为什么两步反传容易出问题 #

GAN训练生成器时的梯度流是完整的端到端链路：
随机噪声 -> 生成器网络 -> 生成假样本 -> 判别器网络（权重冻结） -> 真假分类输出 -> 与"真样本"标签计算损失
正常的反向传播应该从损失端一次性走完整个链路，梯度会自动流过判别器的每一层，到达判别器输入（也就是生成器输出）位置后，继续顺着生成器的链路传回到生成器每一个参数上。
你把反传拆成两步的操作，很容易出现以下问题：

• 第一步反传到判别器输入层时，没有保留和生成器输出张量绑定的梯度上下文，导致第二步传给生成器的梯度是孤立的、和生成器前向计算的计算图不挂钩，生成器实际拿到的梯度要么全零，要么数值完全错误。
• 如果你在第一步反传时为了不更新判别器参数，直接在判别器的各层做了梯度截断，那传到判别器输入层的梯度本身就是错的，后续再传给生成器也没有意义。
• 很多人在训练判别器阶段，会把生成器输出的假样本做梯度截断（避免更新生成器），到训练生成器阶段忘了取消截断，直接把截断后的假样本喂给判别器，梯度根本传不回生成器。

可直接落地的标准GAN训练实现流程 #

用自研框架实现的话，严格按下面的流程写，不要做多余的反传拆分：

1. 判别器更新步骤（每轮迭代先执行）
   • 从MNIST数据集采样一批真实样本，对应标签设为0.9~1.0的软标签（不要硬设1，能大幅降低模式崩溃、梯度消失概率）
   • 采样一批符合正态/均匀分布的随机噪声，输入生成器得到假样本，这一步将假样本从生成器的计算图上断开（不保留生成器侧的梯度关联，避免这一步反传误改生成器参数），对应标签设为0~0.1的软标签
   • 将真实样本、断开梯度的假样本拼接为一个批次输入判别器，计算二分类交叉熵损失
   • 反向传播损失，仅更新判别器的所有权重参数，更新完成后清空所有网络的梯度缓存
2. 生成器更新步骤
   • 重新采样一批新的随机噪声，输入生成器得到假样本，这一步绝对不能断开假样本和生成器的梯度关联
   • 将这批带完整梯度链路的假样本输入判别器，注意这一步不需要修改判别器的前向逻辑，只要保证后续更新参数时跳过判别器即可，给这批假样本对应标签设为1
   • 计算判别器输出和标签1的二分类交叉熵损失，从损失端一次性执行完整反向传播：梯度会自动流过判别器所有层（不需要手动把梯度导到判别器输入层），最终传到生成器的所有参数上
   • 反向传播完成后，仅更新生成器的所有权重参数，更新完成后清空所有网络的梯度缓存

快速排查收敛问题的几个实操点 #

• 先做梯度校验：走一遍生成器更新流程后，打印生成器首层、末层参数的梯度范数，如果梯度全零，说明计算图存在截断；如果梯度出现nan/inf，先把学习率降到原来的1/10再试
• 不要在训练初期把判别器训得过强：如果判别器对真假样本的分类准确率长期接近100%，生成器会收到趋近于零的梯度，完全无法学习。实操中可以保持判别器、生成器更新次数比为1:2，或者把判别器学习率设为生成器的1/2
• 确认输出范围匹配：MNIST像素值范围是[0,1]，生成器最后一层必须用sigmoid激活，不要用tanh输出[-1,1]范围的值直接喂判别器，也不要忘了把真实MNIST样本归一化到和生成器输出一致的范围。

内容的提问来源于stack exchange，提问作者VCoder12345