在Colab运行dolly-v2-12b代码时遇torch模块缺失错误求助

在Colab环境运行databricks/dolly-v2-12b时，执行以下代码：

%pip install "accelerate>=0.16.0,<1" "transformers[torch]>=4.28.1,<5" "torch>=1.13.1,<2"
import torch
import torch.distributed as dist
#import torch.distributed._functional_collectives as funcol
from transformers import pipeline

触发报错：

ModuleNotFoundError: No module named 'torch.distributed._functional_collectives'

手动导入该模块时仍出现相同错误。

• 调整PyTorch版本：torch.distributed._functional_collectives是PyTorch的内部私有模块，在1.13.x版本中存在兼容性问题。将PyTorch升级到1.14.0及以上（仍满足<2的版本限制），执行以下命令重新安装依赖：

  %pip uninstall -y torch
  %pip install "torch>=1.14.0,<2" "accelerate>=0.16.0,<1" "transformers[torch]>=4.28.1,<5"
  

• 无需手动导入私有模块：该模块属于PyTorch内部实现逻辑，不需要用户显式导入。你代码中原本已注释该行，报错大概率是依赖库（如accelerate）内部调用与PyTorch版本不匹配导致，升级PyTorch即可解决。
• 重启运行时：安装完成后，重启Colab的运行时环境，确保新依赖完全生效。

内容的提问来源于stack exchange，提问作者Jesper Ezra