Open-WebUI无法识别lama.cpp模型问题求助
解决方案:Open-WebUI不显示lama.cpp模型的排查步骤
1. 核对Open-WebUI的API配置
- 确认API地址完整包含
/v1路径,比如填写http://<lama-cpp-ip>:8080/v1而非仅http://<lama-cpp-ip>:8080 - 若lama.cpp启动时添加了
--api-key参数,必须在Open-WebUI的对应模型配置中填入相同密钥,否则会因权限拦截无法加载模型
2. 验证Docker容器网络连通性
- 进入Open-WebUI容器,执行
curl http://<lama-cpp-ip>:8080/v1/models,确认能获取和外部请求一致的模型响应 - 若请求失败,需:
- 将两个容器加入同一自定义Docker网络(启动时添加
--network <自定义网络名>参数) - 确保lama.cpp启动时监听
0.0.0.0而非仅127.0.0.1,启动命令添加--host 0.0.0.0
- 将两个容器加入同一自定义Docker网络(启动时添加
3. 检查模型接口返回格式
- 查看
/v1/models的JSON返回结构,确认每个模型的id字段非空、object字段为model,标准格式示例:{ "object": "list", "data": [ { "id": "your-model-id", "object": "model", "owned_by": "lama.cpp", "permission": [] } ] } - 若格式不符,可尝试给lama.cpp添加
--api-legacy参数兼容旧格式,或升级至最新版本
4. 清除缓存并重启Open-WebUI
- 停止Open-WebUI容器,删除挂载的本地缓存卷文件(未挂载卷则直接重建容器)
- 重启容器后重新配置API,等待页面自动刷新模型列表
5. 确认版本兼容性
- 升级Open-WebUI和lama.cpp至最新稳定版本,旧版本间可能存在API格式不兼容问题
内容的提问来源于stack exchange,提问作者Namasivayam Chinnapillai




