YOLOv5 --evolve超参数进化结果长周期训练无法复现

云原生阿岚

2026-8-26

问题核心诱因

第一，超参数文件引用错误：你执行进化搜索的命令中没有指定--hyp参数，YOLOv5会默认从内置的hyp.scratch-low.yaml启动变异，进化得到的最优超参数会默认保存在进化项目目录下的hyp_evolved.yaml（或runs/train/exp*/evolve.csv对应最优指标行的参数），但你后续50epoch训练直接加载了原始的初始超参数文件./deepsea-yolov5/opt/ml/input/data/hyp.scratch-low.yaml，根本没有使用进化得到的最优参数，这是最高频的踩坑点。
第二，进化搜索配置完全不具备统计显著性：
- 单次进化仅训练10epoch，此时模型处于训练前期，学习率处于高位阶段，指标波动极大，数据增强、batch采样、权重初始化的随机性对结果的影响远大于超参数本身的优劣，你选到的“最优结果”本质是随机波动下的幸运值，不是超参数带来的稳定提升。
- 进化总代数仅30代，远低于YOLOv5官方推荐的最少300代的进化要求，超参数种群根本没有收敛，得到的所谓“最优参数”没有泛化性。
第三，训练随机性未固定：两次训练没有固定全局随机种子，且CUDA卷积运算默认启用非确定性算法选择，哪怕超参数完全一致，短周期训练的结果也会出现大幅偏差。
第四，评价逻辑存在偏差：你默认10epoch的指标点可以对齐长周期训练的同epoch点，但超参数是和训练调度策略（学习率衰减节奏、数据增强强度衰减）强绑定的，适配10epoch快速收敛的超参数（比如过高的学习率、过低的权重衰减）往往会导致长周期训练过拟合、后期发散，根本不可能在50epoch训练中复现前期的虚高指标。

解决方案

第一步，先确认正确加载进化得到的最优超参数：
跑完进化后，打开进化项目目录下的evolve.csv，找到你关注的核心指标（比如metrics/mAP_0.5:0.95）列数值最高的对应行，把该行的所有超参数提取出来，保存为独立的yaml配置文件，后续训练通过--hyp参数明确指定这个新生成的最优超参数文件，不要直接复用原始的初始hyp文件。
第二步，调整进化搜索配置，消除随机偏差：
- 把单次进化的训练epoch数提升到你最终训练轮次的1/3_{1/2，也就是至少15}25epoch，避免选到只适配前期波动的无效超参数。
- 把进化总代数提升到100代以上，有条件的话跑满300代，保证超参数种群充分收敛。
- 所有训练（包括进化阶段和后续正式训练）启动时都加上--seed 42参数固定全局随机种子，同时在训练脚本开头添加两行代码固定CUDA运算的确定性：
```
import torch
torch.backends.cudnn.deterministic = True
torch.backends.cudnn.benchmark = False
```
第三步，修正超参数验证逻辑：
不要要求长周期训练的前10epoch指标对齐10epoch短训的最优值，正确的对比方式是：先用提取到的最优超参数跑满10epoch的短训练，验证指标是否和进化阶段记录的最优结果对齐，对齐后再启动长周期训练。长周期训练的最终收敛指标一定会高于短训的最优值，不需要强行对齐短训第10epoch的点位。
额外注意：两次训练的环境、配置要完全一致，包括batch size、图像分辨率、缓存策略、dataloader的workers数、是否启用混合精度训练，避免无关变量干扰结果。

内容的提问来源于stack exchange，提问作者Manuel Gozzi