同时使用PyTorch与TensorFlow时出现CUDNN_STATUS_INTERNAL_ERROR错误求助

首先，这个错误的核心原因是TensorFlow和PyTorch在CUDA/cuDNN资源抢占上的冲突——哪怕你没有显式使用PyTorch的GPU功能，仅仅导入PyTorch库就会触发它对CUDA上下文的初始化，抢占部分GPU资源，导致TensorFlow无法获取足够的资源来创建cuDNN handle。禁用PyTorch的cudnn没用，是因为PyTorch的CUDA上下文初始化已经完成，资源已经被占用了。

具体修复步骤 #

1. 优先初始化TensorFlow的CUDA上下文并开启内存按需分配 #

在导入PyTorch之前，先让TensorFlow完成CUDA初始化，并设置内存按需增长，避免它一开始就占满GPU内存：

import tensorflow as tf

# 开启GPU内存按需分配
gpus = tf.config.list_physical_devices('GPU')
if gpus:
    try:
        for gpu in gpus:
            tf.config.experimental.set_memory_growth(gpu, True)
        logical_gpus = tf.config.list_logical_devices('GPU')
        print(len(gpus), "Physical GPUs,", len(logical_gpus), "Logical GPUs")
    except RuntimeError as e:
        print(e)

# 之后再导入PyTorch
import torch
import torch.backends.cudnn as cudnn
cudnn.enabled = False  # 如果需要的话继续保留这个设置

2. 通过环境变量限制CUDA资源抢占 #

在启动程序前设置以下环境变量，强制TensorFlow使用内存增长模式，并避免PyTorch过度抢占资源：

# Linux/macOS
export TF_FORCE_GPU_ALLOW_GROWTH=true
export CUDA_VISIBLE_DEVICES=0  # 只指定一块GPU，避免多GPU冲突

# Windows (PowerShell)
$env:TF_FORCE_GPU_ALLOW_GROWTH = "true"
$env:CUDA_VISIBLE_DEVICES = "0"

3. 检查CUDA/cuDNN版本兼容性 #

确保你的CUDA和cuDNN版本同时兼容TensorFlow和PyTorch的版本。比如你用的是2018年的TensorFlow 1.x版本，通常需要CUDA 9.x + cuDNN 7.x；同期的PyTorch也兼容该版本组合，但要确认两者使用的cuDNN版本完全一致，不要混用不同版本的cuDNN文件。

如果版本不匹配，建议升级/降级到两者都兼容的版本组合。

4. 限制PyTorch的内存使用 #

如果必须同时加载两个框架，可以限制PyTorch的内存占用比例，给TensorFlow留足够空间：

# 在PyTorch导入后设置
torch.cuda.set_per_process_memory_fraction(0.4, device=0)  # 限制PyTorch最多用40%的GPU内存

可调参数说明 #

• TensorFlow内存增长：tf.config.experimental.set_memory_growth(gpu, True)，让TensorFlow只在需要时申请GPU内存，而不是一次性占满。
• PyTorch内存占比：torch.cuda.set_per_process_memory_fraction(fraction, device)，自定义PyTorch能使用的GPU内存比例，范围0-1。
• CUDA可见设备：CUDA_VISIBLE_DEVICES环境变量，指定程序只能使用特定GPU，避免多GPU环境下的资源竞争。
• TensorFlow cuDNN配置：可以设置TF_CUDNN_USE_AUTOTUNE=0关闭cuDNN自动调优，避免初始化时的资源冲突；或者开启混合精度tf.config.optimizer.set_experimental_options({"auto_mixed_precision": True})，减少整体内存占用。

内容的提问来源于stack exchange，提问作者rmeertens