PyTorch DCGAN教程：生成器为何用tanh而非sigmoid作最终激活？

不是个人偏好，tanh确实能给GAN模型带来性能和训练稳定性上的提升，核心原因有这几点：

• 梯度表现更适合对抗训练
  tanh的输出范围是[-1, 1]，其激活区域的梯度绝对值比sigmoid更大，且在输出远离两端时的梯度衰减程度比sigmoid慢。GAN的训练依赖生成器和判别器之间的梯度传递，sigmoid在输出接近0或1时梯度会趋近于0，容易导致梯度消失，让模型难以更新；而tanh能在更长的输出区间内保持有效梯度，让对抗训练更顺畅。

• 匹配真实数据的归一化范围
  DCGAN训练时，通常会把真实图像归一化到[-1, 1]（比如用transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))）。生成器用tanh输出同范围的数值，能让判别器面对的真实数据和生成数据分布范围一致，避免额外的分布适配开销，训练更稳定。如果用sigmoid输出[0,1]，虽然也能对应归一到该范围的真实数据，但早期GAN实践证明[-1,1]配合tanh的组合收敛效果更好。

• 原始论文的实践共识
  DCGAN的原始论文就采用了tanh作为生成器的最终激活函数，后续大量GAN变体延续了这一设计。PyTorch的教程作为官方实践指导，自然沿用了经过论文验证、社区广泛认可的方案。

至于make_grid时的normalize=True，只是为了将tanh输出的[-1,1]数值转换为可视化所需的[0,1]范围，这个步骤的计算成本极低，完全可以接受。

内容的提问来源于stack exchange，提问作者mikesol