已获授权但使用Access Token加载Hugging Face Llama2模型失败求助

核心修复步骤 #

• 替换废弃参数：transformers新版本中use_auth_token已被弃用，改用token参数传递Access Token。修改后的代码如下：

access_token = "<your-access-token>"
model_name = 'meta-llama/Llama-2-7b-chat-hf'

tokenizer = AutoTokenizer.from_pretrained(model_name, token=access_token)
model = AutoModelForCausalLM.from_pretrained(
    model_name, 
    token=access_token,
    # 可选：若遇模型架构相关报错，添加此参数
    # trust_remote_code=True
)

• 确认Token权限：创建Access Token时，需勾选read权限（仅需读取模型库的权限即可，无需write或其他高级权限）。
• 升级依赖库：旧版本transformers可能存在Llama-2支持或参数兼容问题，执行命令升级：

pip install --upgrade transformers accelerate

（注：accelerate为可选依赖，用于优化模型加载与推理效率）

额外排查点 #

• 检查Access Token是否复制正确，避免多余空格或字符缺失。
• 确认Hugging Face账号的Llama-2权限已完成系统同步（邮件获批后，可能需要1-2小时权限才会生效）。

内容的提问来源于stack exchange，提问作者sriram anush