PyTorch模型训练与验证损失曲线绘制异常问题排查

以下是几种最可能导致该问题的原因，结合PyTorch和matplotlib的使用场景逐一分析：

• 损失值存储逻辑错误
  这是最常见的问题：

  • 没有将每个epoch的损失值追加到列表，而是重复覆盖变量。比如错误写法：

    train_loss = 0.0
    for epoch in range(epochs):
        # 计算epoch损失
        train_loss = epoch_avg_loss
    

    最终train_loss只会保留最后一个epoch的值，绘图自然异常。正确应该用列表追加：

    train_losses = []
    for epoch in range(epochs):
        # 计算epoch_avg_loss
        train_losses.append(epoch_avg_loss)
    

  • 混淆了batch级损失和epoch级损失：训练时打印的是单个batch的损失，但存储的是所有batch损失的总和（而非平均值），导致数值量级差异巨大，曲线无法反映真实趋势。

• 未正确转换Tensor为数值类型
  PyTorch的损失值是Tensor对象，如果直接将其存入列表而不转换为Python数值或numpy数组，matplotlib绘图时可能出现解析异常，导致曲线变形。比如：
  错误：

  train_losses.append(loss)  # loss是Tensor
  

  正确：

  train_losses.append(loss.item())  # 转换为Python浮点数
  

• matplotlib绘图参数或流程错误

  • 坐标轴对应关系错误：比如x轴传入的是batch数量而非epoch数量，或者x轴长度与损失列表长度不匹配。比如训练了10个epoch，但x轴用了range(len(train_losses)*batch_size)，曲线会被拉伸。
  • 画布未重置：如果多次运行绘图代码，没有调用plt.figure()创建新画布或plt.clf()清空旧画布，新旧曲线叠加后会和当前损失值不匹配。
  • 曲线数据混淆：比如把训练损失和验证损失的列表弄反，或者其中一个列表长度不足，导致绘图时出现错位。

• 损失输出与存储的数值不一致
  训练时打印的损失和存入列表的损失不是同一组数据：比如打印的是每个batch的损失值，但存入列表的是epoch的平均损失；或者验证损失计算时未使用torch.no_grad()（虽不影响数值，但如果计算过程中出现梯度累积错误，可能导致数值偏差），导致打印值和存储值存在差异。

内容的提问来源于stack exchange，提问作者Scone