基于YOLO v8与fiftyone.zoo数据集的视频老鼠追踪模型性能优化求助

核心问题定位 #

当前效果不佳的核心原因集中在：训练数据量不足且场景匹配度低、训练配置不合理、追踪环节未针对小目标优化这几个方面，以下是优先级从高到低的优化建议：

1. 重构训练数据集（优先级最高） #

• 扩充数据规模：仅用100张Open Images的样本远远不够，至少收集500+标注样本，才能让模型学到老鼠的稳定特征。
• 对齐实际场景：Open Images中的老鼠多为野外/自由场景，和你“笼子内固定角度”的测试场景差异极大，必须补充笼子内老鼠的图像——可以用你的固定摄像头拍摄不同状态的老鼠，或寻找动物行为研究相关的同类数据集，从根源减少场景偏差。
• 拆分训练/验证集：当前训练和验证用同一数据集，无法评估模型泛化能力，必须按8:2比例拆分，验证集优先选用和测试视频场景一致的笼子内样本。

2. 优化训练配置 #

• 更换更大的基础模型：yolov8n（nano）模型参数量太小，对小目标（老鼠）的检测能力有限，直接换成yolov8s.pt或yolov8m.pt，性能提升远大于调小参数的收益。
• 精简训练周期与增强数据：
  • 无需训练100epochs，训练时观察验证集loss，当loss连续5-10轮不再下降即可停止，避免过拟合。
  • 开启小目标针对性增强：在model.train()中添加参数hsv_h=0.015, hsv_s=0.7, hsv_v=0.4, degrees=0.5, translate=0.1, scale=0.5，帮助模型适应老鼠的不同姿态和光照变化。
  • 调整batch size：根据设备内存设置为16或32，加快模型收敛速度。
• 修正配置文件：更新config.yaml以区分训练/验证集：

path: /home/path/to/code/folder 
train: yolo_dataset/train
val: yolo_dataset/val
names:
    0: Mouse

3. 优化检测与追踪逻辑 #

• 针对小目标调整检测阈值：追踪时设置合理的置信度和IOU阈值，比如model.track(source="catmouse.mov", show=True, conf=0.3, iou=0.45, agnostic_nms=True)，避免漏检小目标。
• 切换更适合的追踪算法：YOLOv8默认的ByteTrack在小目标场景下稳定性不足，尝试使用Botsort追踪器，只需指定tracker="botsort.yaml"即可。
• 放大输入尺寸：将追踪时的输入尺寸调大，比如imgsz=1280，提升小目标的检测精度。

4. 验证与迭代 #

• 训练过程重点关注val/mAP50指标，这是检测性能的核心体现，该指标达标后再看追踪效果。
• 用测试视频做推理，保存结果逐帧分析漏检、误检的场景，针对性补充对应样本，快速迭代优化。

内容的提问来源于stack exchange，提问作者Fabio Magarelli