Docker部署Ollama与OpenWebUI后重启需重下模型问题求助

问题根源 #

你在Windows 10上部署Ollama时，使用了Linux风格的路径/opt/ai/ollama作为本地挂载目录，Windows Docker无法正确识别该路径，导致容器重启后，Ollama存储的模型未被持久化到本地磁盘，最终出现模型丢失的情况。

修复步骤 #

1. 停止并删除现有Ollama容器
   打开命令提示符或PowerShell，执行以下命令：

   docker stop ollama
   docker rm ollama
   

2. 创建Windows本地持久化目录
   在Windows上创建用于存储Ollama模型的目录，例如C:\ai\ollama（可根据自身需求修改路径）。

3. 重新启动Ollama容器（配置正确挂载路径）
   执行以下命令启动Ollama，确保挂载路径为Windows格式：

   docker run --gpus all -d -v C:\ai\ollama:/root/.ollama -p 11434:11434 --name ollama --restart always ollama/ollama
   

   • -v C:\ai\ollama:/root/.ollama：将Windows本地目录映射到Ollama容器内的模型存储目录，确保模型持久化到本地磁盘。
   • --restart always：配置Ollama容器随Docker自动启动，无需手动触发。

4. 验证模型持久化效果

   • 重新拉取模型：docker exec -it ollama ollama pull qwen2.5:14b
   • 重启Docker Desktop后，执行docker exec -it ollama ollama list，确认模型仍在列表中。

5. 确保OpenWebUI正常连接Ollama
   你的OpenWebUI启动命令已配置--add-host=host.docker.internal:host-gateway，可正常访问宿主机上的Ollama服务。重启OpenWebUI容器即可在界面中看到已下载的模型：

   docker restart open-webui
   

额外提示 #

• 若之前已下载过模型，可通过docker cp ollama:/root/.ollama/models C:\ai\ollama命令将容器内的模型文件复制到本地新目录，避免重新下载。
• Windows Docker挂载路径必须使用Windows格式（如C:\xxx），不可使用Linux风格的/xxx路径。

内容的提问来源于stack exchange，提问作者Yiyang Wang