本文介绍了如何使用自定义模型，向边缘节点部署一个模型服务。

前提条件 #

• 您已经创建了自定义模型。相关操作，请参见创建一个自定义模型。
• 您的自定义模型下有 已发布 的模型版本。
  根据自定义模型的 推理框架 不同，创建和发布版本的操作有差异：
  • Triton 框架：请参见创建一个版本和版本管理。
    基于 Triton 框架的模型支持前后处理版本和 ONNX 模型文件加密功能。如需使用相关功能，您需要创建一个前后处理版本、为 ONNX 模型文件加密。更多信息，请参见创建一个前后处理版本、使用 ONNX 模型加密功能。
  • 自定义框架：请参见创建一个版本和版本管理。

操作步骤 #

1. 登录边缘智能控制台。

2. 在左侧导航栏，从 我的空间 下拉列表选择一个空间。

3. 在左侧导航栏，选择 边缘推理 > 模型管理。
4. 在 自定义模型 列表，找到您的模型，单击模型名称。
5. 在模型详情页面，单击 模型服务 页签，然后单击 部署模型服务。
6. 在 部署模型服务 页面，完成相关参数的配置，然后单击 确认。
   根据自定义模型的 推理框架 不同，需要完成的参数配置不同。具体配置项说明，请分别参见：
   • 部署模型服务 - Triton 框架
   • 部署模型服务 - 自定义框架

完成以上操作后，您可以在 模型服务 列表看到刚刚部署的模型服务。当模型服务的状态变为 运行中，表示模型服务已经部署成功。