Docker部署Ollama端口未配置？求正确启动及API访问方法

一、正确的Docker运行步骤 #

1. 命令输入位置：必须在宿主机的终端（Linux bash、Windows PowerShell/CMD、Mac终端）执行Docker命令，而非Ollama控制台。
2. 清理错误容器（可选）：如果之前错误创建了容器，先执行以下命令清理：

   docker stop ollama
   docker rm ollama
   

3. 执行正确的运行命令：

   docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
   

   各参数作用：
   • -d：让容器在后台运行
   • -v ollama:/root/.ollama：挂载宿主机的ollama卷到容器内的模型存储目录，避免容器删除后模型数据丢失
   • -p 11434:11434：将宿主机的11434端口映射到容器内的11434端口，实现外部对Ollama API的访问
   • --name ollama：给容器指定名称，方便后续管理（比如启停、查看日志）
   • ollama/ollama：官方提供的Ollama镜像

二、通过API访问Ollama的方法 #

容器启动后，可通过HTTP API与Ollama交互，以下是常用操作示例：

1. 拉取模型 #

以拉取llama3模型为例：

curl http://localhost:11434/api/pull -d '{ "name": "llama3" }'

2. 发起聊天请求 #

curl http://localhost:11434/api/chat -d '{
  "model": "llama3",
  "messages": [
    { "role": "user", "content": "你好，介绍一下你自己" }
  ]
}'

3. 生成文本内容 #

curl http://localhost:11434/api/generate -d '{
  "model": "llama3",
  "prompt": "写一段关于Docker的简短介绍"
}'

注意：如果是从远程设备访问，需将localhost替换为运行Docker的宿主机IP地址，并确保宿主机防火墙允许11434端口的入站请求。

内容的提问来源于stack exchange，提问作者Sergey Oblasov