TensorFlow 2.5 GPU训练调用model.fit返回退出码-1073740791报错问询

退出码-1073740791(0xC0000409)属于Windows系统下的栈缓冲区溢出错误，从你提供的日志可以看出，cuDNN动态库加载正常，报错触发在后续实际执行GPU算子的阶段。CPU运行正常可直接排除业务代码逻辑问题，问题集中在CUDA/cuDNN适配、GPU驱动、TensorFlow运行时配置三个方向。

1. 确认CUDA环境配置无误 #

你当前的TensorFlow 2.5 + CUDA 11.2 + cuDNN 8.1属于官方兼容组合，版本本身没有问题，优先排查配置问题：

• 检查系统环境变量PATH中已加入CUDA 11.2的bin、libnvvp目录（路径替换为你本地的实际安装路径）：
  • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\bin
  • C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\libnvvp
• 确认cuDNN解压后的bin、include、lib目录下的所有文件，都已完整复制到CUDA 11.2对应的安装目录中，无文件缺失
• 终端执行nvcc -V，验证输出的CUDA版本为11.2，排除多版本CUDA冲突问题

2. 检查GPU驱动兼容性 #

CUDA 11.2要求NVIDIA驱动版本不低于456.38：

• 打开NVIDIA控制面板查看当前驱动版本，版本过低直接升级到最新的Studio或Game Ready驱动即可
• 如果你使用的是双显卡笔记本，确认TensorFlow调用的是独立显卡而非核显，可在代码开头加入以下配置强制指定GPU：

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0"

3. 调整TensorFlow GPU运行时配置 #

如果上述配置正常，大概率是cuDNN算子默认配置触发了溢出，加入以下运行时配置即可解决：

import tensorflow as tf

# 开启GPU内存动态分配，避免预分配内存溢出
gpus = tf.config.list_physical_devices('GPU')
if gpus:
    try:
        for gpu in gpus:
            tf.config.experimental.set_memory_growth(gpu, True)
    except RuntimeError as e:
        print(e)

# 可选：禁用cudnn确定性算子，解决部分卷积算子适配问题
tf.keras.backend.clear_session()
tf.config.experimental.enable_op_determinism()

4. 兜底修复方案 #

如果以上操作都无效，可以直接将TensorFlow升级到2.6版本，该版本针对Windows平台修复了多个cuDNN调用溢出的已知问题，且仍兼容CUDA 11.2 + cuDNN 8.1的环境，不需要更换CUDA/cuDNN版本。

内容的提问来源于stack exchange，提问作者Vlad V