PyTorch GPU OOM伴异常内存统计问题求助

问题根源 #

你看到的17179869184.00 GiB是WSL2与PyTorch内存统计接口兼容bug导致的数值溢出，并非进程真的占用了这么多内存。这个数值实际是2^34字节，因单位转换逻辑错误被错误解析成了天文数字，核心矛盾仍是CUDA显存不足，但统计信息异常是环境适配问题。

解决步骤 #

1. 立即消除异常内存统计显示

通过环境变量禁用PyTorch对非PyTorch内存的统计，直接规避数值解析错误：

• 终端运行代码前执行：

  export PYTORCH_NO_CUDA_MEMORY_CACHING=1
  

• 或在Python代码开头添加：

  import os
  os.environ['PYTORCH_NO_CUDA_MEMORY_CACHING'] = '1'
  

2. 修复WSL2内存配置兼容性

• 检查C:\Users\<你的用户名>\.wslconfig文件，确保memory值不超过主机物理内存的80%（你的12GB设置符合16GB主机的要求，若仍有问题可临时调整为10GB测试）
• 关闭所有WSL实例并重启生效：

  wsl --shutdown
  

3. 缓解CUDA OOM本身的常规优化

• 减小ultralytics的batch参数，降低单步显存占用
• 启用PyTorch内存碎片优化：

  export PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
  

• 更新ultralytics到最新版本，修复已知的WSL2适配问题：

  pip install --upgrade ultralytics
  

内容的提问来源于stack exchange，提问作者Edward C