本文主要介绍配置 mGPU 算力分配策略的方法，以及在工作负载中使用该策略进行调度的操作。 :::tip mGPU 功能目前处于 **公测** 阶段。 ::: ## 使用须知使用 mGPU 算力分配策略时，对集群、GPU 组件等有如下要求和限制。更多 mGPU 使用须知，请参见 [mGPU 使用方法](https://www.volcengine.com/docs/6460/132502)。 |项目 |要求 | |---|---| |Kubernetes 版本 |不低于 v1.20.15\-vke.6 版本。|\ | |集群 Kubernetes 版本的查看方法，请参见 [FAQ](https://www.volcengine.com/docs/6460/141480)；版本发布记录，请参见 [Kubernetes 版本发布记录](https://www.volcengine.com/docs/6460/108842)。|\ | |:::tip|\ | |低于 v1.20.15\-vke.6 版本的集群中已有 mGPU 相关业务，且希望使用 mGPU 算力分配策略时，请提交 [工单申请](https://console.volcengine.com/workorder/create?step=2&SubProductID=P00000210) 获取技术支持，升级 Kubernetes 版本。|\ | ||\ | |:::| |mgpu 组件版本 |不低于 v0.0.3 版本。组件版本升级方法，请参见 [组件升级](https://www.volcengine.com/docs/6460/159826)。组件版本发布记录，请参见 [组件发布记录](https://www.volcengine.com/docs/6460/159262)。 | ## 算力分配策略说明 mGPU 支持如下三种算力分配策略。 |Value 取值 |说明 | |---|---| |fixed\-share（默认值） |固定配额。每个容器都有固定的算力配额，在容器运行过程中即使 GPU 还有剩余算力，也无法超过固定算力配额。 | |guaranteed\-burst\-share |固定争抢。每个容器都有保底的算力配额，但只要 GPU 还有空闲算力，就可以被容器使用。 | |native\-burst\-share |争抢模式。可设置算力配额，设置的值越高，可争抢到的配额越高，但不保证每个容器都能争抢到与已设置的算力配额相同的配额。 | ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_ad842e96cb3cf533bfa869b5c81475ba.png =987x) ## 前提条件已完成 mGPU 相关配置。详情请参见 [mGPU 使用方法](https://www.volcengine.com/docs/6460/132502)。 ## 操作步骤 ### 步骤一：为 GPU 计算型节点配置算力分配策略 1. 登录 [容器服务控制台](https://console.volcengine.com/vke)。 2. 在顶部导航栏中选择您业务所在的地域。 3. 在左侧导航栏中选择 **集群**，单击目标集群名称。 4. 为 mGPU 相关节点或节点池，配置算力分配策略。 * **节点池** 1. 在集群管理页面的左侧导航栏单击 **节点池**。 2. 在 **节点池** 页面，找到已完成 mGPU 相关配置的节点池，单击对应 **操作** 列下的 **编辑**。 :::warning 您也可以在满足配置 mGPU 算力分配策略环境要求（Kubernetes 版本、mgpu 组件版本等）的集群中，创建新的 mGPU 相关 GPU 计算型节点池，同时配置算力分配策略。此时无需重启节点。详细操作，请参见 [mGPU 使用方法](https://www.volcengine.com/docs/6460/132502)。 ::: 3. 在 **更多配置** 处设置 **节点标签** 的 key 为`vke.volcengine.com/mgpu-compute-policy`、Value 为`fixed-share`、`guaranteed-burst-share`或`native-burst-share`，表示在该节点池中的节点上，配置 Value 取值对应的算力分配策略。详细的参数说明，请参见 [管理节点池](https://www.volcengine.com/docs/6460/100957)。 :::warning * 您可以通过开启或关闭节点池的 [节点标签及污点自动更新](https://www.volcengine.com/docs/6460/100955) 功能，控制是否同步标签到节点池中的存量节点中。关闭该功能时，可能导致存量节点上的 GPU 算力分配策略与预期不符，请谨慎配置。 * 更改节点池中节点的 mGPU 算力分配策略后，需要重启节点池中的所有 mGPU 相关节点使策略生效。 * 不设置算力分配策略时（即不设置`vke.volcengine.com/mgpu-compute-policy`节点标签），则默认按`fixed-share`策略分配算力。 ::: ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_4dac6a57223509b6f83a55a5049ffd12.png =918x) * **节点** 1. 在集群管理页面的左侧导航栏中，单击 **节点**。 2. 在 **节点** 页面，找到已完成 mGPU 相关配置的节点，选择对应 **操作** 列下的`...` \> **标签管理**。 3. 在 **标签** 页签，单击 **添加标签**，在节点标签列表的最后，添加 key 为`vke.volcengine.com/mgpu-compute-policy`、Value 为`fixed-share`、`guaranteed-burst-share`或`native-burst-share`的标签，表示在该节点上，配置 Value 取值对应的算力分配策略。 ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_e7c10493e20c908dcd078338e7227cd6.png =917x) :::warning * 更改节点的 mGPU 算力分配策略后，需要重启节点使策略生效。重启节点的操作，请参见 [重启实例](https://www.volcengine.com/docs/6396/67753)。 * `vke.volcengine.com/mgpu-compute-policy`属于系统标签，节点上添加系统标签后不允许修改 Value 值。 * 不设置算力分配策略时（即不设置`vke.volcengine.com/mgpu-compute-policy`节点标签），则默认按`fixed-share`策略分配算力。 ::: ### 步骤二：配置工作负载本文以创建无状态负载（Deployment）为例。 ```mixin-react return ( **无状态负载**。 2. 在 **无状态负载 ** 页面，创建无状态负载或更新已有的负载。详细操作，请参见 [创建无状态负载](https://www.volcengine.com/docs/6460/100971)、[更新无状态负载](https://www.volcengine.com/docs/6460/100970)。其中 **高级配置** 步骤的 **实例注解** 处，配置 mGPU 调度策略： ![图片](https://portal.volccdn.com/obj/volcfe/cloud-universal-doc/upload_5592b6015fa0523ceea49387a9114f35.png =908x) 设置 **实例注解** 的 key 为\`vke.volcengine.com/mgpu-compute-policy\`、Value 为\`fixed-share\`、\`guaranteed-burst-share\`或\`native-burst-share\`，表示该工作负载，使用 Value 取值对应的调度策略。 :::warning * 工作负载不设置 mGPU 调度策略相关的 **实例注解** 时，默认按\`fixed-share\`策略调度。 * 请确保集群中存在与工作负载具有相同策略的 GPU 计算型节点，例如工作负载的调度策略为\`fixed-share\`，那么集群中必须存在\`fixed-share\`策略的 GPU 计算型节点，否则不匹配调度策略，工作负载的 Pod 会一直处于 Pending 状态。 :::`}> ); ``` ## 后续操作配置 mGPU 算力分配策略后，可查看 mGPU 的各项监控指标。详情请参见 [mGPU 使用方法](https://www.volcengine.com/docs/6460/132502)。