已获取Meta许可仍无法加载Llama-2-7b模型？求解决方案

错误原因 #

你遇到的403 Client Error: Forbidden是因为Llama 2系列模型属于Meta官方受限模型，必须先获得授权才能通过Hugging Face访问，未授权的请求会被直接拒绝。后续的OSError是因为网络请求失败且本地没有缓存模型文件导致的连锁报错。

解决步骤 #

• 申请模型访问权限
  前往Meta的Llama 2官方申请页面提交申请，填写必要信息后等待审核。审核通过后，你的Hugging Face账号会被授予该模型的访问权限。

• 配置Hugging Face访问令牌

  1. 登录你的Hugging Face账号，进入「Settings」→「Access Tokens」页面，生成一个权限为read的访问令牌。
  2. 两种方式配置令牌：
     • 终端登录：运行命令 huggingface-cli login，按提示输入生成的令牌完成验证。
     • 代码中指定：修改加载代码，添加token参数：

       from transformers import AutoTokenizer, AutoModelForCausalLM
       
       model_id = "meta-llama/Llama-2-7b-hf"
       # 替换为你的Hugging Face访问令牌
       hf_token = "your_huggingface_access_token"
       
       tokenizer = AutoTokenizer.from_pretrained(model_id, token=hf_token)
       model = AutoModelForCausalLM.from_pretrained(
           model_id,
           device_map={"": "cpu"},
           torch_dtype="float32",
           token=hf_token
       )
       
       prompt = "Explain quantum computing in simple terms."
       inputs = tokenizer(prompt, return_tensors="pt")
       
       output = model.generate(**inputs, max_new_tokens=100)
       print(tokenizer.decode(output[0], skip_special_tokens=True))
       

• 检查网络连接
  确保本地网络可以正常访问Hugging Face平台。如果在网络受限环境下，需要配置代理，可在代码开头添加：

  import os
  # 替换为你的代理地址和端口
  os.environ['HTTP_PROXY'] = 'http://proxy_address:port'
  os.environ['HTTPS_PROXY'] = 'http://proxy_address:port'
  

内容的提问来源于stack exchange，提问作者orchestration sam