CUDA 12.2环境下bitsandbytes包安装异常,无法在Google Colab运行LLaMA 2的问题排查求助
CUDA 12.2环境下bitsandbytes包安装异常,无法在Google Colab运行LLaMA 2的问题排查求助
我现在在Google Colab上尝试运行LLaMA 2,但一直碰到bitsandbytes包的安装相关错误。我已经确认这个包确实装好了(版本是0.43.0),也重启过内核,能想到的办法都试了,但还是解决不了问题。想请教下这会不会是兼容性问题?我该怎么排查定位原因呢?
另外我之前看到过一个类似问题的解决方案,对比了一下,我的tokenizers、torchaudio、torchvision还有transformers版本和那个方案里的完全一致,唯一的区别是我的这些包带的是+cu121后缀,但Colab上的CUDA版本是12.2,会不会是这个版本不匹配导致的问题?
我已经尝试过以下这些安装命令了:
!pip install -U bitsandbytes !pip install -i https://pypi.org/simple/ bitsandbytes !pip install bitsandbytes
备注:内容来源于stack exchange,提问作者HaniyehS
相关产品推荐
相关产品推荐

