在Google Colab加载Qwen模型时遭遇CUDA SETUP ERROR: Missing libnvJitLink.so.13问题求助

我最近在Google Colab里尝试加载Qwen模型，过程中遇到了一些问题，已经把相关情况提交到bitsandbytes基金会的GitHub仓库中了。以下是我执行的环境配置代码和对应的输出结果：

Cell 1 执行代码 #

!pip install -U "transformers>=4.44.0" "accelerate>=0.32.0" "bitsandbytes>=0.49.1" "torch>=2.3.0" "safetensors>=0.4.0" "torchvision" "torchaudio"
import os, sys
print("✅ Packages upgraded. Restarting runtime...")
os.execv(sys.executable, ['python'] + sys.argv)

Cell 1 执行结果 #

已满足依赖：transformers>=4.44.0，当前版本为5.0.0，路径为/usr/local/lib/python3.12/dist-packages
正在收集transformers>=4.44.0
下载transformers-5.3.0-py3-none-any.whl.metadata（32 kB）
已满足依赖：accelerate>=0.32.0，当前版本为1.13.0，路径为/usr/local/lib/python3.12/dist-packages
正在收集bitsandbytes>=0.49.1
下载bitsandbytes-0.49.2-py3-none-manylinux_2_24_x86_64.whl.metadata（10 kB）
已满足依赖：torch>=2.3.0，当前版本为2.10.0+cu128，路径为/usr/local/lib/python3.12/dist-packages
正在收集torch>=2.3.0
下载torch-2.11.0-cp312-cp312-manylinux_2_28_x86_64.whl.metadata（29 kB）
已满足依赖：safetensors>=0.4.0，当前版本为0.7.0，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：torchvision，当前版本为0.25.0+cu128，路径为/usr/local/lib/python3.12/dist-packages
正在收集torchvision
下载torchvision-0.26.0-cp312-cp312-manylinux_2_28_x86_64.whl.metadata（5.5 kB）
已满足依赖：torchaudio，当前版本为2.10.0+cu128，路径为/usr/local/lib/python3.12/dist-packages
正在收集torchaudio
下载torchaudio-2.11.0-cp312-cp312-manylinux_2_28_x86_64.whl.metadata（6.9 kB）
已满足依赖：huggingface-hub<2.0,>=1.3.0（来自transformers>=4.44.0），当前版本为1.7.1，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：numpy>=1.17（来自transformers>=4.44.0），当前版本为2.0.2，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：packaging>=20.0（来自transformers>=4.44.0），当前版本为26.0，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：pyyaml>=5.1（来自transformers>=4.44.0），当前版本为6.0.3，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：regex!=2019.12.17（来自transformers>=4.44.0），当前版本为2025.11.3，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：tokenizers<=0.23.0,>=0.22.0（来自transformers>=4.44.0），当前版本为0.22.2，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：typer（来自transformers>=4.44.0），当前版本为0.24.1，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：tqdm>=4.27（来自transformers>=4.44.0），当前版本为4.67.3，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：psutil（来自accelerate>=0.32.0），当前版本为5.9.5，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：filelock（来自torch>=2.3.0），当前版本为3.25.2，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：typing-extensions>=4.10.0（来自torch>=2.3.0），当前版本为4.15.0，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：setuptools<82（来自torch>=2.3.0），当前版本为75.2.0，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：sympy>=1.13.3（来自torch>=2.3.0），当前版本为1.14.0，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：networkx>=2.5.1（来自torch>=2.3.0），当前版本为3.6.1，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：jinja2（来自torch>=2.3.0），当前版本为3.1.6，路径为/usr/local/lib/python3.12/dist-packages
已满足依赖：fsspec>=0.8.5（来自torch>=2.3.0），当前版本为2025.3.0，路径为/usr/local/lib/python3.12/dist-packages
正在收集cuda-toolkit==13.0.2（来自cuda-toolkit[cublas,cudart,cufft,cufile,cupti,curand,cusolver,cusparse,nvjitlink,nvrtc,nvtx]==13.0.2; platform_system == "Linux"->torch>=2.3.0）
下载cuda_toolkit-13.0.2-py2.py3-none-any.whl.metadata（9.4 kB）
正在收集cuda-bindings<14,>=13.0.3（来自torch>=2.3.0）
下载cuda_bindings-13.2.0-cp312-cp312-manylinux_2_24_x86_64.manylinux_2_28_x86_64.whl.metadata（2.3 kB）
正在收集nvidia-cudnn-cu13==9.19.0.56（来自torch>=2.3.0）
下载nvidia_cudnn_cu13-9.19.0.56-py3-none-manylinux_2_27_x86_64.whl.metadata（1.9 kB）
正在收集nvidia-cusparselt-cu13==0.8.0（来自torch>=2.3.0）
下载nvidia_cusparselt_cu13-0.8.0-py3-none-manylinux2014_x86_64.whl.metadata（12 kB）
正在收集nvidia-nccl-cu13==2.28.9（来自torch>=2.3.0）
下载nvidia_nccl_cu13-2.28.9-py3-none-manylinux_2_18_x86_64.whl.metadata（2.0 kB）
正在收集nvidia-nvshmem-cu13==3.4.5（来自torch>=2.3.0）
下载nvidia_nvshmem_cu13-3.4.5-py3-none-manylinux2014_x86_64.manylinux_2_17_x86_64.whl.metadata（2.1 kB）
已满足依赖：triton==3.6.0（来自torch>=2.3.0），当前版本为3.6.0，路径为/usr/local/lib/python3.12/dist-packages
正在收集nvidia-cublas==13.1.0.3.*（来自cuda-toolkit[cublas,cudart,cufft,cufile,cupti,curand,cusolver,cusparse,nvjitlink,nvrtc,nvtx]==13.0.2; platform_system == "Linux"->torch>=2.3.0）
下载nvidia_cublas-13.1.0.3-py3-none-manylinux_2_27_x86_64.whl的内容

内容的提问来源于stack exchange，提问作者tanvir