You need to enable JavaScript to run this app. 使用RTX2070训练Yolact时报CUDA out of memory错误如何解决?
优惠活动
大模型
产品
解决方案
定价
更多

使用RTX2070训练Yolact时报CUDA out of memory错误如何解决?

Yolact训练CUDA显存不足解决方案

1 训练参数进一步调整

  • 继续调低batch_size,优先尝试batch_size=2甚至batch_size=1,RTX2070 8G显存跑yolact_base的原生配置显存余量极小,不要仅降到4就停止调试
  • 调低config.py中max_size的同时同步调整img_size相关参数,仅修改max_size生效不完整,建议先将输入尺寸统一降到550以下,比如设置为480
  • 完全关闭训练过程中的可视化逻辑,将config.py里save_imgs、display相关的参数全部设为False,避免额外的显存开销

2 PyTorch显存优化配置

  • 启动训练时添加--fp16参数开启半精度训练,可直接降低约50%的显存占用,修改后的训练命令参考:
    python train.py --config=yolact_base_config --batch_size=2 --fp16
  • 在train.py的代码开头添加显存优化配置:
import torch
torch.backends.cudnn.benchmark = True
torch.cuda.empty_cache()
  • 将config.py中的keep_optimizer参数设为False,保存权重时不保留优化器状态,减少静态显存占用

3 模型配置轻量化调整

  • 替换训练配置,不用yolact_base_config,改用更轻量的yolact_resnet50_config或者yolact_tiny_config,基础模型参数规模更小,显存占用会明显降低
  • 如无特殊需求,关闭掩码分支的调试逻辑,将config.py中的mask_proto_debug设为False,减少不必要的计算显存占用

内容的提问来源于stack exchange,提问作者Tony

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.20 05:45:06