如何解决YOLOv1训练梯度爆炸及收敛、配置等相关问题

如何在训练过程中彻底避免出现NaN问题？ #

• 优先添加梯度裁剪机制，可直接调用torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=2.0)，限制梯度的最大范数，从根源缓解梯度爆炸导致的NaN，不需要完全取消momentum和weight_decay正则参数。
• 下调初始学习率，YOLOv1常规初始学习率建议设置在1e-4_{1e-3区间，训练初期可添加3}5个epoch的warmup策略，缓慢提升学习率，避免初始阶段梯度波动过大。
• 检查数据集标注是否合法，排查是否存在xmin > xmax、坐标值为负、坐标超过图像尺寸的无效标注，这类异常标注输入后计算损失也会触发NaN。
• 正则参数不要设置过高，momentum常规设为0.9即可，weight_decay建议设置在1e-5~1e-4区间，参数过高会导致训练不稳定。如果开启了混合精度训练，可先关闭混合精度验证是否是损失缩放参数异常导致的NaN。

在哪里可以获取YOLOv1的最优训练配置？ #

直接参考YOLOv1原论文给出的训练配置即可，适配VOC数据集的最优配置参考如下：

• 超参数：batchsize尽量凑到64（显存不足可通过梯度累加实现），初始学习率1e-3，momentum=0.9，weight_decay=5e-4，总训练轮次135epoch，在第75、105epoch时将学习率除以10。
• 数据处理：输入统一Resize到448×448，训练时启用随机裁剪、水平翻转、颜色抖动数据增强。
  你当前使用的开源代码的基础配置调整上述超参后即可达到最优效果，无需额外查找其他配置。

梯度爆炸现象在目标检测任务中是否属于正常情况？ #

属于正常情况，尤其是单阶段目标检测模型，损失函数由分类损失、定位损失、置信度损失多部分加权组成，训练初期网络输出随机性强，损失波动幅度大，只要学习率设置偏高、正则参数不合适就很容易触发梯度爆炸，不属于代码逻辑错误范畴，调整超参即可解决。

YOLOv1训练完成后生成1.1Gb大小的权重文件是否正常？ #

属于正常情况，原版YOLOv1最后接有2层全连接层，参数量本身较大，如果权重文件保存时同时存储了模型参数、优化器状态、当前epoch、损失记录等训练相关的全部内容，1Gb左右的大小是合理的。如果仅存储推理用的模型权重，大小会降到200~300Mb区间，可根据使用场景调整权重保存逻辑。

内容的提问来源于stack exchange，提问作者yakhyo