如何用Docker Compose部署Ollama与Next.js服务？

错误原因 #

你遇到的unknown command "ollama" for "ollama"错误，根源是Ollama官方镜像的entrypoint已默认设为ollama，如果在docker-compose.yml的command字段里重复写ollama前缀，实际执行的命令会变成ollama ollama pull llama2，自然触发“未知命令”报错。

可行调整方案 #

你的整体目标（组合运行Ollama+Next.js、缓存LLMs）完全可行，只需调整配置细节：

1. 修正Ollama容器命令配置 #

在docker-compose.yml中，直接用子命令编写操作，通过shell脚本串联“拉取模型+启动服务”的流程，同时挂载本地卷缓存模型：

services:
  ollama:
    image: ollama/ollama
    volumes:
      - ollama_data:/root/.ollama  # 挂载卷缓存模型，避免重复拉取
    command: >
      sh -c "ollama pull llama2 && ollama serve"
    ports:
      - "11434:11434"
    restart: unless-stopped

  nextjs:
    build: ./your-nextjs-project  # 替换为你的Next.js项目目录路径
    ports:
      - "3000:3000"
    depends_on:
      - ollama
    environment:
      - OLLAMA_BASE_URL=http://ollama:11434  # Next.js通过容器名访问Ollama服务
    restart: unless-stopped

volumes:
  ollama_data:

2. 确保Next.js等待Ollama就绪（可选但推荐） #

depends_on仅保证Ollama容器启动，不确保服务就绪。如果Next.js启动时直接调用Ollama接口，可能出现连接失败，可通过健康检查优化：

• 在Ollama服务中添加健康检查：

ollama:
  # ...其他配置
  healthcheck:
    test: ["CMD", "curl", "-s", "http://localhost:11434/api/tags"]
    interval: 5s
    timeout: 10s
    retries: 5

• 修改Next.js的依赖条件：

nextjs:
  # ...其他配置
  depends_on:
    ollama:
      condition: service_healthy

3. 额外优化点 #

• 如果不需要外部直接访问Ollama，可以去掉Ollama服务的ports配置，仅通过容器内部网络通信更安全
• 若需同时拉取多个模型，可在command中追加ollama pull mistral，用&&串联

内容的提问来源于stack exchange，提问作者Mohit Ranjan