为Spacy启用GPU失败求助：CUDA检测异常排查

1. 核对版本兼容性 #

Spacy的GPU支持对PyTorch和CUDA版本有严格要求，别让版本不匹配拖后腿：

• 执行pip show spacy查看当前Spacy版本，对应确认它支持的PyTorch/CUDA组合（比如Spacy v3.5+通常要求PyTorch 1.13+、CUDA 11.6+）
• 执行python -c "import torch; print(torch.version.cuda)"查看PyTorch绑定的CUDA版本，确保和容器内的CUDA驱动版本一致

2. 放弃自动检测，手动指定CUDA版本安装Spacy #

cuda-autodetect经常出现检测失效，直接按你的CUDA版本来安装：

• 若使用CUDA 11.8，执行：

  pip install -U spacy torch==2.0.1+cu118 --index-url https://download.pytorch.org/whl/cu118
  

• 若使用CUDA 12.1，执行：

  pip install -U spacy torch==2.0.1+cu121 --index-url https://download.pytorch.org/whl/cu121
  

注意：PyTorch版本必须和CUDA严格对应，不要随意选择版本

3. 检查容器内的CUDA环境变量 #

Docker容器经常未自动配置全CUDA相关环境变量，手动核对：

• 执行echo $CUDA_HOME和echo $LD_LIBRARY_PATH，确认/usr/local/cuda/bin在PATH中，/usr/local/cuda/lib64在LD_LIBRARY_PATH中
• 若未设置，直接在终端添加：

  export CUDA_HOME=/usr/local/cuda
  export PATH=$CUDA_HOME/bin:$PATH
  export LD_LIBRARY_PATH=$CUDA_HOME/lib64:$LD_LIBRARY_PATH
  

  嫌每次输入麻烦，可将这几行添加到容器的~/.bashrc或启动脚本中

4. 确保Thinc的CUDA版本正确安装 #

Spacy依赖Thinc库调用GPU，Thinc未安装对应CUDA版本也无法识别GPU：

• 按你的CUDA版本安装Thinc，比如CUDA 11.8就执行：

  pip install -U thinc[cuda118]
  

• 安装完成后执行python -c "from thinc.api import require_gpu; print(require_gpu())"，返回True则说明Thinc能识别GPU

5. 确认Docker的GPU挂载配置 #

虽然PyTorch能识别GPU，仍需检查容器启动参数：

• 启动容器时必须添加--gpus all或指定具体GPU，比如docker run --gpus all ...
• 在容器内执行nvidia-smi，确认能看到GPU设备和正确的驱动版本

6. 强制指定Spacy使用PyTorch的GPU分配器 #

自动检测失效时，手动强制绑定PyTorch的GPU分配器：

import spacy
from thinc.api import set_gpu_allocator, require_gpu

set_gpu_allocator("pytorch")
require_gpu()
print(spacy.prefer_gpu())

若返回True，则说明GPU已能被Spacy识别

内容的提问来源于stack exchange，提问作者Rodrigo A