YOLOv8训练batch size=1时出现CUDA内存不足错误，寻求解决思路

针对你遇到的torch.cuda.OutOfMemoryError问题，结合你的环境配置，可尝试以下解决方向：

• 清理GPU占用进程
  用nvidia-smi命令查看当前GPU的显存占用情况，确认是否有其他未关闭的进程（比如之前的训练残留进程、其他AI服务）占用了显存，使用kill -9 <进程ID>杀掉这些进程后再重新启动训练。

• 调整训练参数降低显存消耗

  • 开启混合精度训练：启动训练时添加--half参数，让模型以FP16精度运行，大幅减少显存占用；
  • 启用数据集缓存：添加--cache ram（内存充足时）或--cache disk参数，避免数据加载阶段的显存波动；
  • 缩小输入图像尺寸：将默认的640×640调整为416×416或更小，减少单张图像的显存占用。

• 优化PyTorch显存分配策略

  • 设置显存碎片优化参数：在启动训练前设置环境变量 export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128，按照错误提示减少显存碎片；
  • 训练前清理缓存：在代码开头添加torch.cuda.empty_cache()，释放PyTorch预留但未使用的显存；
  • 关闭cuDNN基准测试：添加torch.backends.cudnn.benchmark = False，避免基准测试过程中的额外显存占用。

• 调整依赖版本

  • 尝试降低Ultralytics版本至8.0.190等稳定版，新版本可能引入了显存占用更高的特性；
  • 确认PyTorch与CUDA版本匹配，Ubuntu环境下PyTorch 2.1.0需对应正确的CUDA版本，版本不匹配可能导致异常显存占用。

• 系统层面优化

  • 关闭Ubuntu桌面环境的后台冗余进程，减少系统级显存占用；
  • 尝试切换到命令行模式训练，避免桌面环境（如Xserver）占用GPU显存。

内容的提问来源于stack exchange，提问作者lmsasu