本地部署Hugging Face遇NameError: init_empty_weights未定义问题求助

成因 #

init_empty_weights是accelerate库提供的函数，你的accelerate版本（1.6.0）过于老旧，而transformers 4.51.0需要依赖更高版本的accelerate才能正常调用该函数。同时，Mac M3 Pro的PyTorch-Metal环境对依赖版本的兼容性要求更严格，新旧版本不匹配直接导致函数找不到的错误。

解决方法 #

• 升级accelerate到兼容版本：在终端执行以下命令，将accelerate升级到与transformers 4.51.0匹配的版本（至少需>=0.21.0，建议直接升级到最新兼容稳定版）：

  pip install --upgrade accelerate
  

• 验证依赖匹配：升级完成后，可通过以下命令确认版本：

  pip show accelerate transformers
  

  确保accelerate版本满足transformers 4.51.0的要求（官方要求accelerate>=0.21.0）。
• 清理环境缓存（可选）：如果升级后仍有问题，可清理pip缓存并重新安装：

  pip cache purge
  pip install --force-reinstall accelerate transformers
  

内容的提问来源于stack exchange，提问作者cosm1c v1bes