YOLOv8训练时RTX3050Ti笔记本GPU报CUDA内存不足求助

针对RTX 3050ti（3.8GB显存）的硬件限制，可通过以下几种方式解决训练时的OOM错误：

• 换用更小的YOLOv8模型：yolov8l是大模型，显存占用过高，换成中型的yolov8m.pt或小型的yolov8s.pt能大幅降低显存需求。修改后的命令：

  yolo task=detect mode=train epochs=10 data=data_custom.yaml model=yolov8s.pt device=0
  

• 降低批量大小（batch size）：默认batch size可能超出显存承载，手动设置更小的数值（比如4或8）。命令示例：

  yolo task=detect mode=train epochs=10 data=data_custom.yaml model=yolov8l.pt device=0 batch=4
  

• 减小输入图像分辨率：缩小训练时的图像尺寸，从默认的640降低到480或320，直接减少显存占用。可在命令中指定：

  yolo task=detect mode=train epochs=10 data=data_custom.yaml model=yolov8l.pt device=0 imgsz=480
  

  也可以直接修改data_custom.yaml里的imgsz参数。

• 启用梯度累积：通过累积梯度变相实现大batch训练的效果，同时不占用过多显存，添加accumulate参数（比如设为2）：

  yolo task=detect mode=train epochs=10 data=data_custom.yaml model=yolov8l.pt device=0 accumulate=2
  

• 释放GPU冗余占用：打开任务管理器（Windows）或nvidia-smi（Linux/macOS），关闭其他占用GPU的程序（比如浏览器、视频播放器、其他AI工具），释放闲置显存。

• 优化PyTorch内存分配：设置环境变量减少显存碎片，Windows命令行先执行：

  set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128
  

  Linux/macOS则执行：

  export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128
  

  之后再运行训练命令。

内容的提问来源于stack exchange，提问作者ADITYA DUTT PANDEY