Dask能否为任务指定fractional gpu资源需求

Dask 原生支持浮点形式的GPU资源配额分配，不存在仅能指定整量GPU配额的限制，官方示例写整数配额只是简化演示，不代表资源值仅支持整数形式。

核心实现逻辑 #

Dask 调度器对自定义资源的核算全程支持浮点累加规则，没有强制整数粒度的限制，整个流程不需要额外依赖第三方插件：

• Worker 侧的资源声明没有必须取整数的要求：你可以根据单节点物理GPU的实际拆分粒度，给Worker注册对应的GPU资源总量。比如单节点持有1张物理GPU，可直接在启动Worker时声明总GPU资源为1，启动命令为：
  dask worker scheduler:8786 --resources GPU=1 MEMORY=70e9
• 任务提交时可直接传入小数形式的GPU资源需求，调度器会自动在同个Worker上累计已分配的GPU资源值，只要累计值不超过Worker声明的资源总量，就会继续调度匹配的任务。比如要给小型模型任务分配1/4张GPU的配额，直接修改原示例的资源参数即可：

  processed = [client.submit(process, d, resources={'GPU': 0.25}) for d in data]
  

  这种配置下，单卡Worker最多可同时调度4个同规格的小型GPU任务，不会出现任务独占整卡的资源浪费情况，资源调度逻辑和Ray的 fractional gpu能力完全对齐。

灵活调整拆分粒度的技巧 #

如果需要更细的GPU资源拆分维度，可以自定义Worker侧的GPU资源总量，不需要固定和物理GPU卡数绑定：

• 比如你希望把单卡的算力/显存拆成10等份共享，可直接给Worker声明GPU=10，之后每个任务只要声明resources={'GPU': 1}，就相当于占用1/10张物理卡的配额，不需要反复计算小数。
• 多任务共享同个物理GPU时，配合dask-cuda的Worker组件即可自动完成环境变量透传：所有调度到同个GPU Worker上的任务，会被自动绑定到Worker对应的物理GPU设备，不会出现多任务错绑不同GPU的问题。

常见认知误区 #

• 不存在“必须把GPU资源标成整数才能被调度”的限制，调度器的资源核算逻辑对整数、浮点数值一视同仁。
• 该能力属于Dask Distributed的内置核心能力，不需要打补丁或者改装第三方调度逻辑。

内容的提问来源于stack exchange，提问作者Coding elephant