You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何配置GitHub Actions YML文件部署Ollama服务并加载基础模型?

在GitHub Actions中配置Ollama服务并加载模型的实现方案

以下是可直接复用的GitHub Actions YML配置,基于Ollama官方Docker镜像实现,能满足你拉取模型、启动服务并查看加载进度的需求:

name: Run Ollama with Llama3
on: [push, workflow_dispatch]

jobs:
  ollama-service-job:
    runs-on: ubuntu-latest
    steps:
      - name: 创建Ollama数据共享卷
        run: docker volume create ollama-storage

      - name: 拉取Llama3模型
        run: docker run --rm -v ollama-storage:/root/.ollama ollama/ollama ollama pull llama3

      - name: 启动Ollama服务容器
        run: docker run -d -v ollama-storage:/root/.ollama --name ollama-service -p 11434:11434 ollama/ollama

      - name: 查看模型加载进度日志
        run: docker logs -f ollama-service | grep -E "(loading model|progress|ready)"

关键步骤说明

  • 共享卷创建:通过Docker卷持久化模型数据,确保拉取的模型能被后续的服务容器复用,避免重复下载。
  • 模型拉取:使用官方镜像执行ollama pull llama3命令,完成后自动销毁临时容器。
  • 服务启动:后台启动Ollama服务容器,挂载共享卷加载已拉取的模型,同时映射默认端口11434(若无需外部访问可省略端口映射)。
  • 日志监控:通过docker logs过滤关键日志信息,直接在GitHub Actions的日志界面查看模型加载进度和服务就绪状态。

方案可行性

该方案已被不少开发者成功实现,尤其适合在CI/CD流程中进行模型功能测试或演示。需要注意的是,GitHub Actions的免费Runner资源有限,拉取大参数模型(如Llama3 70B)可能出现超时或资源不足问题,建议先使用Llama3 8B这类轻量模型测试。

内容的提问来源于stack exchange,提问作者Jonathan

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.24 00:42:45