RTX2060环境下Whisper AI未调用GPU，FP16不支持CPU警告求助

问题说明 #

你遇到的警告表明Whisper未检测到可用的CUDA环境，默认使用CPU运行——即便你的RTX 2060支持CUDA加速。以下是具体排查和解决方法：

排查与修复步骤 #

• 验证PyTorch的CUDA可用性
  Whisper依赖PyTorch实现GPU加速，先确认PyTorch是否正确关联CUDA：

  import torch
  print(torch.cuda.is_available())
  

  若输出False，说明当前PyTorch是CPU版本，需卸载后重新安装对应CUDA版本的PyTorch（比如适配CUDA 11.8的版本）。

• 手动指定GPU设备
  加载模型时显式指定使用CUDA，避免自动检测失效：

  import whisper
  import torch
  
  device = "cuda" if torch.cuda.is_available() else "cpu"
  model = whisper.load_model("medium", device=device)
  result = model.transcribe("venv/files/test1.mp3")
  print(result["text"])
  

• 检查CUDA环境变量配置
  确保系统环境变量中CUDA_PATH指向正确的CUDA安装目录，且PATH包含CUDA的bin子目录（例如C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.x\bin），配置完成后重启终端再运行代码。

• 更新Whisper及依赖包
  执行以下命令确保所有依赖为最新版本：

  pip install --upgrade whisper torch torchaudio
  

内容的提问来源于stack exchange，提问作者athem boukhmayer