PyInstaller打包TensorFlow-GPU模型单文件exe无法调用GPU求助

核心原因 #

PyInstaller单文件模式会将所有依赖打包至临时解压目录，但TensorFlow-GPU所需的CUDA/cuDNN动态库可能未被正确收集，或临时目录的环境变量加载异常，导致TensorFlow无法识别GPU设备。

具体解决步骤 #

1. 手动添加CUDA/cuDNN依赖文件到打包配置 #

PyInstaller自动收集依赖时容易漏掉TensorFlow的GPU相关动态库，需通过spec文件手动补充：

• 生成spec文件：pyi-makespec --onefile your_script.py
• 打开生成的.spec文件，在datas列表中添加本地CUDA和cuDNN的核心库路径（替换为你的实际版本路径）：

  datas += [
      (r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin\cudart64_110.dll", "."),
      (r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin\cublas64_11.dll", "."),
      (r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin\cufft64_10.dll", "."),
      (r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin\curand64_10.dll", "."),
      (r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin\cusolver64_11.dll", "."),
      (r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin\cusparse64_11.dll", "."),
      (r"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\extras\CUPTI\lib64\cupti64_118.dll", "."),
      (r"C:\Program Files\NVIDIA Corporation\cudnn\8.9.2\cuda\bin\cudnn64_8.dll", "."),
  ]
  

• 用spec文件重新打包：pyinstaller your_script.spec

2. 配置TensorFlow GPU内存增长 #

部分场景下打包后TensorFlow无法分配GPU内存会 fallback 到CPU，可在代码开头添加：

import tensorflow as tf
gpus = tf.config.experimental.list_physical_devices('GPU')
if gpus:
    try:
        for gpu in gpus:
            tf.config.experimental.set_memory_growth(gpu, True)
    except RuntimeError as e:
        print(e)

3. 检查临时目录权限 #

单文件exe运行时会解压到系统临时目录（如C:\Users\你的用户名\AppData\Local\Temp\_MEIxxxxxx），确保该目录有读写权限，否则TensorFlow无法加载依赖库。

4. 显式设置环境变量 #

若CMD窗口中CUDA相关环境变量未生效，可在代码开头手动添加路径：

import os
os.environ['CUDA_PATH'] = r'C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8'
os.environ['PATH'] += os.pathsep + r'C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8\bin'
os.environ['PATH'] += os.pathsep + r'C:\Program Files\NVIDIA Corporation\cudnn\8.9.2\cuda\bin'

5. 查看TensorFlow启动日志调试 #

调试阶段不要使用--noconsole参数，直接在CMD运行exe，查看日志中是否有Could not load dynamic library 'xxx.dll'这类错误，根据提示补充缺失的库文件。

内容的提问来源于stack exchange，提问作者K.Ricky