You need to enable JavaScript to run this app.
最新活动
大模型
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

Open-WebUI无法识别lama.cpp模型问题求助

解决方案:Open-WebUI不显示lama.cpp模型的排查步骤

1. 核对Open-WebUI的API配置

  • 确认API地址完整包含/v1路径,比如填写http://<lama-cpp-ip>:8080/v1而非仅http://<lama-cpp-ip>:8080
  • 若lama.cpp启动时添加了--api-key参数,必须在Open-WebUI的对应模型配置中填入相同密钥,否则会因权限拦截无法加载模型

2. 验证Docker容器网络连通性

  • 进入Open-WebUI容器,执行curl http://<lama-cpp-ip>:8080/v1/models,确认能获取和外部请求一致的模型响应
  • 若请求失败,需:
    • 将两个容器加入同一自定义Docker网络(启动时添加--network <自定义网络名>参数)
    • 确保lama.cpp启动时监听0.0.0.0而非仅127.0.0.1,启动命令添加--host 0.0.0.0

3. 检查模型接口返回格式

  • 查看/v1/models的JSON返回结构,确认每个模型的id字段非空、object字段为model,标准格式示例:
    {
      "object": "list",
      "data": [
        {
          "id": "your-model-id",
          "object": "model",
          "owned_by": "lama.cpp",
          "permission": []
        }
      ]
    }
    
  • 若格式不符,可尝试给lama.cpp添加--api-legacy参数兼容旧格式,或升级至最新版本

4. 清除缓存并重启Open-WebUI

  • 停止Open-WebUI容器,删除挂载的本地缓存卷文件(未挂载卷则直接重建容器)
  • 重启容器后重新配置API,等待页面自动刷新模型列表

5. 确认版本兼容性

  • 升级Open-WebUI和lama.cpp至最新稳定版本,旧版本间可能存在API格式不兼容问题

内容的提问来源于stack exchange,提问作者Namasivayam Chinnapillai

火山引擎 最新活动