bitsandbytes 0.43.1适配CUDA 12.4问题求助：缺失对应DLL文件

方案一：手动适配DLL文件 #

• 找到D:/Users/1/anaconda3/Lib/site-packages/bitsandbytes/目录下的libbitsandbytes_cuda123.dll文件，复制一份并重命名为libbitsandbytes_cuda124.dll，保留在原目录中。bitsandbytes同系列CUDA版本的DLL兼容性较好，小版本跨用不会影响核心功能。

方案二：强制指定CUDA版本 #

• 在Windows系统中添加环境变量，绕过版本检测，让bitsandbytes直接使用已有的CUDA 12.3文件：
  1. 右键「此电脑」→属性→高级系统设置→环境变量
  2. 点击「新建系统变量」，变量名填BITSANDBYTES_CUDA_VERSION，变量值填123
  3. 重启终端或IDE后重新运行微调程序

方案三：从源码编译适配版本 #

如果前两种方案无效，可自行编译适配CUDA 12.4的bitsandbytes：

• 确保本地已安装CUDA 12.4 toolkit和Visual Studio编译工具
• 克隆bitsandbytes仓库到本地，进入仓库目录后执行编译命令：

  python setup.py install
  

• 编译完成后，适配CUDA 12.4的DLL会自动安装到site-packages的bitsandbytes目录下

内容的提问来源于stack exchange，提问作者paul qin