Windows11训练YOLOv8时CUDA后端torchvision::nms报错求助

1. 匹配PyTorch与TorchVision版本 #

版本不匹配是这类算子缺失问题的常见原因。先查看当前版本：

pip show torch torchvision

根据你的CUDA版本安装对应匹配的组合，例如CUDA 11.8的安装命令：

pip install torch==2.0.1 torchvision==0.15.2 --index-url https://download.pytorch.org/whl/cu118

2. 强制使用CPU版NMS（临时解决方案） #

在训练代码里指定NMS运行在CPU上，绕开CUDA算子的问题：

from ultralytics import YOLO

model = YOLO('yolov8n.pt')
model.train(
    task='detect',
    mode='train',
    data='custom.yaml',
    epochs=300,
    imgsz=160,
    workers=8,
    batch=4,
    cfg={'nms_mode': 'cpu'}
)

3. 重装PyTorch与CUDA环境 #

如果版本匹配后仍报错，彻底清理现有PyTorch环境后重装：

pip uninstall -y torch torchvision torchaudio
pip cache purge

然后根据你的CUDA版本，执行对应官方安装命令完成重装。

4. 检查NVIDIA驱动与CUDA兼容性 #

确认你的NVIDIA驱动版本支持当前CUDA版本，比如CUDA 11.8要求驱动版本≥450.80.02。打开NVIDIA控制面板查看驱动版本，过低则更新至兼容版本。

注：你提到的第二个任务执行错误是NMS报错导致的连锁反应，解决NMS问题后该错误会自动消失。

内容的提问来源于stack exchange，提问作者Vincent Casey