如何在同一虚拟环境配置支持TensorFlow与PyTorch的CUDA环境

一、同一虚拟环境下的版本适配问题 #

TensorFlow 2.10要求CUDA 11.2，但PyTorch官方支持列表中未包含该版本，确实存在版本错位。若要在同一虚拟环境中同时运行两者，有两种可行方案：

• 降级TensorFlow至支持CUDA 11.1的版本（如TensorFlow 2.9，官方验证兼容CUDA 11.1）
• 升级PyTorch至支持CUDA 11.2的版本（PyTorch 1.12及后续版本提供CUDA 11.2预编译包，可通过官方安装命令指定cuda=11.2参数安装）

二、多CUDA版本共存的配置与注意事项 #

安装多个CUDA版本完全可以正常运行GPU代码，无需频繁修改系统全局的CUDA_PATH：

• 安装CUDA时，取消勾选自动添加环境变量到系统全局的选项
• 为不同框架的项目创建独立启动脚本：
  • Windows下创建run_tf.bat，内容示例：

    SET CUDA_PATH=C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2
    CALL myenv\Scripts\activate.bat
    python your_tf_script.py
    

  • Linux下创建run_tf.sh，内容示例：

    export CUDA_PATH=/usr/local/cuda-11.2
    source myenv/bin/activate
    python your_tf_script.py
    

  • 同理为PyTorch项目创建对应CUDA 11.1的启动脚本，运行时直接执行对应脚本即可，全局环境变量无需改动

三、CUDA 11.0不支持SM_86的影响 #

SM_86是NVIDIA Ampere架构（如RTX 30系列）的算力标识，CUDA 11.0不支持该算力会带来以下问题：

• 无法利用Ampere架构专属的硬件特性（如第三代RT Core、Tensor Core的进阶功能）
• 针对SM_86优化的算子无法正常发挥性能，甚至可能出现兼容性问题
• 若使用RTX 30系列及以后的GPU，不建议选用CUDA 11.0，会大幅浪费硬件性能

内容的提问来源于stack exchange，提问作者Erickzhou