使用指定transformers仓库代码时出现LLaMATokenizer导入错误，求解决方案

• 先确认本地用的是目标分支的代码：
  别用pip装的官方transformers，先卸载旧版本：pip uninstall -y transformers，然后克隆目标仓库切到指定分支并本地安装：

  git clone https://github.com/zphang/transformers.git
  cd transformers
  git checkout llama_push
  pip install -e .
  

• 换个导入方式试试：
  直接从具体模块导入，避开主模块的注册问题：

  from transformers.models.llama.tokenization_llama import LLaMATokenizer
  from transformers.models.llama.modeling_llama import LLaMAForCausalLM
  
  tokenizer = LLaMATokenizer.from_pretrained("./weights/tokenizer/")
  model = LLaMAForCausalLM.from_pretrained("./weights/llama-7b/")
  

• 检查类是否注册：
  如果还是不行，去transformers主目录的__init__.py里看看有没有加LLaMA相关的导入，如果没加，手动添上这两行：

  from .models.llama.tokenization_llama import LLaMATokenizer
  from .models.llama.modeling_llama import LLaMAForCausalLM
  

• 清理缓存重试：
  执行以下命令清理pip和huggingface的缓存，避免旧缓存干扰：

  pip cache purge
  rm -rf ~/.cache/huggingface/transformers
  

内容的提问来源于stack exchange，提问作者ScrapperMaster