MacOS(M1)本地运行Llama2遇“No module named fire”错误求助

核心原因 #

你用torchrun命令时，它调用的不是你激活的venv-metal虚拟环境里的Python解释器，所以找不到已经装在这个环境里的fire模块——哪怕你已经多次安装，都是装对了环境但调用错了解释器。

具体解决步骤 #

• 先确认虚拟环境处于激活状态
  打开终端，先激活你的venv-metal环境：

  source venv-metal/bin/activate
  

  激活后终端开头会显示(venv-metal)的标识，确认这一步没问题再往下走。

• 改用虚拟环境内的Python执行torchrun
  不要直接用torchrun命令，换成用虚拟环境里的Python来调用torchrun模块，这样能确保环境完全匹配：

  python -m torchrun --nproc_per_node 1 example_chat_completion.py \
      --ckpt_dir llama-2-7b-chat/ \
      --tokenizer_path tokenizer.model \
      --max_seq_len 512 --max_batch_size 6
  

• 验证fire模块的安装路径
  执行下面的命令，确认fire确实装在虚拟环境里：

  pip show fire
  

  看输出里的Location字段，必须是venv-metal/lib/pythonX.X/site-packages开头的路径。如果不是，重新在激活虚拟环境后执行pip install fire。

• 排查torchrun的关联Python
  要是上面的方法还不行，先看看torchrun绑定的是哪个Python：

  torchrun --version
  

  如果显示的Python版本和虚拟环境里的不一致，就必须坚持用python -m torchrun的方式调用，避免系统全局Python干扰。

内容的提问来源于stack exchange，提问作者Cybernetic