使用TorchTune微调Llama-3-8B时出现目录不存在错误求助

• 不需要将llama3目录下的original文件夹复制到/tmp目录，16G的文件复制既浪费空间又耗时，完全没必要。
• 可以直接指定已下载的本地模型路径给tune工具，有两种简单方法：

方法一：命令行直接指定路径 #

运行tune run命令时，添加model_name_or_path参数指定本地模型目录，完整命令如下：

tune run lora_finetune_single_device --config llama3/8B_lora_single_device device="cpu" model_name_or_path="./llama3"

方法二：修改配置文件 #

1. 打开你下载的配置文件llama3/8B_lora_single_device.yaml
2. 找到model_name_or_path配置项，将其值从默认的meta-llama/Meta-Llama-3-8B修改为./llama3
3. 保存文件后，重新运行原来的tune run命令即可

错误原因说明 #

报错是因为TorchTune的默认配置会尝试从临时目录/tmp/Meta-Llama-3-8B/读取模型，但你已经手动将模型下载到了本地llama3目录，通过指定本地路径就能让工具正确加载已下载的模型文件。

内容的提问来源于stack exchange，提问作者Ahad Porkar