如何导出基于Llama3的Ollama自定义模型以简化部署？

一、先理清Ollama模型的存储逻辑 #

Ollama的自定义模型是通过Modelfile定义规则后构建生成的，构建完成的模型会以镜像形式存在本地模型库（默认路径：Linux/macOS为~/.ollama/models，Windows为C:\Users\<用户名>\.ollama\models）。你要找的“编译后”可分发文件，官方支持的是tar归档格式，而非单独的bin文件。

二、导出自定义模型为可分发文件 #

使用Ollama自带的ollama save命令就能导出完整模型包，步骤如下：

1. 确认本地已构建好你的自定义模型（假设模型名为my-llama3-custom）
2. 执行导出命令：

   ollama save my-llama3-custom -o my-llama3-custom.tar
   

   该命令会把模型的权重、配置、Modelfile等所有必要文件打包成一个tar文件，大小与原模型一致。

三、将模型文件部署到GitHub仓库 #

• 把生成的my-llama3-custom.tar上传到仓库（注意：大文件必须用Git LFS，避免仓库体积过载）
• 在仓库README中添加用户加载模型的步骤：

  # 从本地tar包加载模型
  ollama load my-llama3-custom.tar
  

  用户加载完成后，直接执行ollama run my-llama3-custom就能启动你的自定义模型，无需手动创建Modelfile。

四、轻量替代方案：直接分发Modelfile #

如果你的自定义模型只是基于官方llama3做了配置修改或轻量微调，无需上传大体积tar包，直接把Modelfile放入仓库即可。用户只需执行：

ollama create my-llama3-custom -f Modelfile

Ollama会自动拉取基础模型并完成自定义模型的构建，流程更简洁。

关键注意事项 #

• Git LFS配置：上传tar文件前，需初始化Git LFS并跟踪tar格式：

  git lfs install
  git lfs track "*.tar"
  git add .gitattributes
  

• 存储限制：Llama3-8B的tar包约4.7GB，Llama3-70B约30GB，要注意GitHub免费版Git LFS的带宽和存储限制。

内容的提问来源于stack exchange，提问作者TheCommandCat