使用RTX2070训练Yolact时报CUDA out of memory错误如何解决?
Yolact训练CUDA显存不足解决方案
1 训练参数进一步调整
- 继续调低batch_size,优先尝试batch_size=2甚至batch_size=1,RTX2070 8G显存跑yolact_base的原生配置显存余量极小,不要仅降到4就停止调试
- 调低
config.py中max_size的同时同步调整img_size相关参数,仅修改max_size生效不完整,建议先将输入尺寸统一降到550以下,比如设置为480 - 完全关闭训练过程中的可视化逻辑,将
config.py里save_imgs、display相关的参数全部设为False,避免额外的显存开销
2 PyTorch显存优化配置
- 启动训练时添加
--fp16参数开启半精度训练,可直接降低约50%的显存占用,修改后的训练命令参考:python train.py --config=yolact_base_config --batch_size=2 --fp16 - 在
train.py的代码开头添加显存优化配置:
import torch torch.backends.cudnn.benchmark = True torch.cuda.empty_cache()
- 将
config.py中的keep_optimizer参数设为False,保存权重时不保留优化器状态,减少静态显存占用
3 模型配置轻量化调整
- 替换训练配置,不用
yolact_base_config,改用更轻量的yolact_resnet50_config或者yolact_tiny_config,基础模型参数规模更小,显存占用会明显降低 - 如无特殊需求,关闭掩码分支的调试逻辑,将
config.py中的mask_proto_debug设为False,减少不必要的计算显存占用
内容的提问来源于stack exchange,提问作者Tony
相关产品推荐
相关产品推荐

