Windows下pip安装vllm失败，CUDA11.7+Torch2.0.1环境报错

问题分析 #

报错核心是TypeError: expected string or bytes-like object，出现在packaging.version.parse(torch.version.cuda)步骤，说明torch.version.cuda返回的不是有效字符串（可能为None或非字符串类型），导致CUDA版本校验失败，进而无法编译vLLM的wheel包。

解决方案 #

1. 验证PyTorch的CUDA环境是否正确识别 #

打开Python终端执行以下代码：

import torch
print(torch.version.cuda)
print(torch.cuda.is_available())

• 正常输出应为：11.7 和 True
• 如果输出None或非11.7，说明PyTorch未正确关联CUDA 11.7环境

2. 重新安装对应版本的PyTorch #

卸载现有PyTorch组件：

pip uninstall -y torch torchvision torchaudio

重新安装适配CUDA 11.7的PyTorch 2.0.1版本：

pip install torch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 --index-url https://download.pytorch.org/whl/cu117

安装完成后再次执行步骤1的验证代码，确保CUDA版本识别正确。

3. 升级依赖工具并指定CUDA版本安装vLLM #

先升级pip、setuptools等工具：

pip install --upgrade pip setuptools wheel packaging

设置环境变量强制指定CUDA版本后安装vLLM：

set CUDA_VERSION=11.7
pip install vllm

4. 检查系统CUDA环境变量 #

确保系统环境变量配置正确：

• CUDA_PATH指向C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7
• PATH中包含C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin和C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\libnvvp
  配置完成后重启终端再尝试安装。

内容的提问来源于stack exchange，提问作者Ammon Lu