队列管理员可以设定队列内“GPU碎片资源整理规则”，该规则旨在从资源组维度优化 GPU 负载的摆放位置，清理造成 GPU 碎片的负载，缓解队列排队的情况。按照用户的规则配置内容，平台将在检测到任务长期处于排队中状态时或在固定整理周期内进行GPU碎片整理，以提升GPU资源利用率。
场景一 现有某一用户有3台8卡机器。当前用户3台机器负载情况为 【占用7卡（4+2+1），占用6卡（4+2），占用7卡（4+2+1）】，此时用户想要提交一个4卡任务，会由于碎片无法运行。
场景二 现在某一用户有8台8卡机器。用户调度7个服务，每个服务9个实例，每个实例1卡。这样每个服务的实例分布在不同的机器上，用户一旦销毁某些服务，碎片就产生了。
而开启当前规则后，碎片情况会被平台识别。如场景一中平台将重新摆放负载的位置，将第三台机器的1、2卡负载分别摆放在另外两个机器上，第三台机器即可运行4卡任务。

使用前提

• 拥有1个及以上队列，且是队列管理员。

触发前提

• 当碎片节点数量不超过当前资源组的 10% 且 不超过 5 个时，不会启动碎片整理；只有当碎片节点数量超过任意一个阈值时，才会触发碎片整理规则。

注意事项

• 平台支持的碎片整理策略仅对GPU资源生效，由CPU引起的资源碎片现象暂时无法处理。
• 命中当前规则的GPU负载若造成了碎片，可能会被平台停止。
• 队列规则更改后会对队列中的历史负载生效，建议在创建队列后立刻配置规则，且不建议频繁更改规则。更改规则后请及时通知队列的使用者，以免影响历史负载的运行。
  • 还是基于上方的场景一，若用户提交4卡GPU任务的时候队列规则尚未开启当，则第三台机器的负载正常运行不会受到影响。在某一时刻队列管理员开启了自定义任务的GPU整理规则，对应负载则有可能命中规则而被停止。

操作步骤

1. 登录机器学习平台，点击左侧导航栏中的【资源组管理】-【队列】进入列表页面。
2. 点击队列名称进入详情页，点击【规则设置】，开启“GPU碎片资源整理规则”开关进行规则配置。
3. 规则配置包含对【在线服务】和【自定义任务】两种负载的规则设置，具体参数如下：

• Cron语句通过分钟、小时、日期、月份和星期配置，一共五个参数，可以为任务设定具体的执行时间。具体参数配置见下表：

• 示例

4. 可在队列列表页的「队列规则」字段，快速查看当前队列已配置的规则。