PyTorch实现cGAN遇NaN、Cholesky分解及张量维度错误

1. nn.Sequential转置卷积输出全为0 #

• 核对转置卷积参数：TF的conv2d_transpose的padding（'VALID'/'SAME'）和PyTorch的padding数值并非直接对应，比如TF的'SAME' padding需要根据kernel size和stride计算PyTorch中对应的数值，参数不匹配可能导致输出被错误压缩为0
• 重置权重初始化：PyTorch转置卷积的默认初始化易导致输出幅值极小，建议改用GAN常用初始化方式：

  def init_weights(m):
      if isinstance(m, nn.ConvTranspose2d):
          nn.init.normal_(m.weight, 0.0, 0.02)
          if m.bias is not None:
              nn.init.constant_(m.bias, 0)
  model.apply(init_weights)
  

• 检查激活函数顺序：如果转置卷积后接sigmoid/tanh这类饱和激活，若前层输出幅值过小会被直接压到0，确认TF和PyTorch的激活函数位置、类型完全一致

2. torch.linalg.cholesky触发非正定_LinAlgError #

• 添加数值扰动：TF对非正定矩阵处理更宽松，会自动修正微小负特征值，PyTorch中可给输入矩阵加极小单位矩阵保证正定：

  eps = 1e-6
  matrix = matrix + eps * torch.eye(matrix.shape[-1], device=matrix.device)
  chol = torch.linalg.cholesky(matrix)
  

• 核对矩阵生成逻辑：检查TF和PyTorch中矩阵计算的每一步，比如维度顺序（TF为NHWC，PyTorch为NCHW）、归一化系数是否一致，是否因维度转换错误导致矩阵元素异常
• 切换数据类型：若使用float16精度，数值溢出或精度丢失易引发非正定问题，暂时换成float32测试是否解决

3. 自定义clean_cholesky函数维度不匹配RuntimeError #

• 对齐张量维度顺序：TF默认张量格式是[batch, height, width, channel]，PyTorch是[batch, channel, height, width]，传入clean_cholesky前需用torch.permute调整：

  # 从PyTorch格式转TF格式
  tensor = tensor.permute(0, 2, 3, 1)
  

• 打印中间张量形状：在调用clean_cholesky前后，分别打印PyTorch和TF对应步骤的张量shape，定位哪一步维度出现偏差，比如是否遗漏torch.reshape或torch.squeeze操作
• 检查广播逻辑：PyTorch广播规则和TF略有差异，确认clean_cholesky中涉及张量运算的维度是否满足广播要求，必要时手动调整维度匹配

内容的提问来源于stack exchange，提问作者Silvio sjsj