本文主要介绍通过 AI 云原生推理套件（ServingKit）的 AI 应用模板部署 ComfyUI 应用。 ## 使用说明 * 部署文本模型涉及较多组件，相互间有依赖，配置复杂，为了获得符合预期的结果，请务必根据本文指引操作。 * 为了获得符合预期的结果，同时符合容器服务的 [使用限制](https://www.volcengine.com/docs/6460/79642)，请按照本文方案（或在本文推荐的资源上）操作。如需替换方案，您可以联系对应的火山引擎客户经理咨询。 * 请勿使用 mGPU 对 GPU 进行切分。 * 完整的部署流程，可能依赖如下火山引擎邀测能力，请结合实际业务需求和 ServingKit AI 应用模板提供的能力，联系火山引擎客户经理申请试用邀测能力： |**邀测功能/资源** |**涉及产品** |**说明** | |---|---|---| |高性能计算 GPU 型规格 |[GPU 云服务器](https://www.volcengine.com/product/gpu) |GPU 云服务器实例规格，为 AI 推理应用提供计算能力。|\ | | |目前在 GPU 云服务器侧，部分高性能计算 GPU 型规格和 GPU 计算型规格处于邀测阶段。例如在 ComfyUI 场景中推荐使用的如下规格，需要您提交规格邀测申请：|\ | | ||\ | | |* 生图：`ecs.gni3cl.5xlarge` \* 1台（性价比优）；|\ | | |* 生视频：`ecs.pni3l.22xlarge` \* 1台（性价比优）、`ecs.hpcpni3ln.45xlarge` \* 1台（性能优） | | GPU 计算型规格 |^^|^^| |节点挂载本地盘能力 |[容器服务](https://www.volcengine.com/product/vke) |允许在 VKE 集群中配置本地盘挂载。 | ## 前提条件 * 您可以提前创建容器服务（VKE）异构计算托管集群，也可以在部署模型时同步创建集群。详细操作，请参见 [创建异构计算托管集群](https://www.volcengine.com/docs/6460/1801897)。 * （可选）若需要通过 API 网关对外暴露服务，需要准备 API 网关实例。您可以提前创建，也可以在部署模型时同步创建集群。详细操作，请参见 [创建实例](https://www.volcengine.com/docs/6569/85693)。 * （可选）若需要通过对象存储（TOS）实现 ComfyUI 相关持久化存储，需创建 TOS 存储桶。详细操作，请参见 [创建存储桶](https://www.volcengine.com/docs/6349/75024)。 ## 操作步骤 1. 登录 [容器服务控制台](https://console.volcengine.com/vke)。 2. 在左侧导航栏，选择 **推理套件 \> AI 应用模板**。 3. 在 **AI 应用模板** 页面选择 **ComfyUI**，单击 **部署**。 4. 在 **部署** 页面，自定义配置参数。 ```mixin-react return ( ); ``` 5. 单击 **确认**，完成部署配置。应用创建预计需要 15~20 分钟，请您耐心等待，您也可以单击 **返回** **AI 应用列表 ** 查看应用状态，或者单击 **去 AI 应用模板** 查看 AI 应用模板详情、创建新的 AI 应用。 ## 后续操作成功部署 ComfyUI 应用后，在 **推理套件** \> **AI 应用列表** 页面查看和管理 ComfyUI 应用。鼠标悬浮到应用模块，单击`...`符号，可进行升级、扩容、删除应用等操作。 |**参数** |**说明** | |---|---| |升级 |ComfyUI 应用模板有可升级版本时，建议您升级应用，以免影响相关功能的正常使用。 | |更新 |更新 ComfyUI 应用配置。参数配置说明，请参见本文上方 **操作步骤** 中的说明。 | |扩缩容|按需设置当前应用的期望副本数，即实例数。|\ | |:::tip|\ | |该 **副本数** 是您期望的副本数量，而不是新增的副本数量。例如：扩容前应用副本数为 3，您配置 **副本数** 为 5 时，系统会自动扩容 2 个副本，满足 5 个副本的期望。而不是新增 5 个副本。|\ | ||\ | |:::| |删除 |根据系统提示，二次确认待删除的应用相关信息后，删除 AI 应用。|\ | |:::warning|\ | ||\ | |* 删除应用后不可恢复，请谨慎操作。|\ | |* 此操作可选同步删除关联创建的 API 网关实例。|\ | |* 此操作不删除应用相关的 VKE 集群、节点池、托管 Prometheus（VMP）等资源。如需删除，请进入对应产品控制台手动操作。|\ | ||\ | |:::| ###