Compute Shader局部尺寸与工作组的意义及同调用数调度的性能差异

1. 设置局部尺寸的核心意义 #

局部尺寸（local_size_x/y/z）定义了单个工作组（Work Group）内的工作项（Work Item）数量，其核心价值在于适配GPU硬件特性并实现高效并行协作：

• 适配硬件调度单元：GPU以 warp（NVIDIA，32个工作项）或 wavefront（AMD，64个工作项）为最小执行单元。设置匹配该尺寸的局部尺寸，能让工作组填满硬件执行单元，避免资源闲置。
• 启用共享内存协作：同一工作组内的工作项可访问低延迟的共享内存（Shared Memory），用于缓存中间数据、共享计算结果，大幅降低全局内存的访问开销——这是跨工作组无法实现的高效数据交互方式。
• 支持组内同步：通过barrier()等指令，同一工作组的工作项可实现精确执行同步，保证数据协作时的一致性，适用于需要分阶段计算的场景。

2. 两种极端调度方式的实际差异 #

你给出的两种调度方式总调用次数均为100×100=10000次，但在硬件兼容性和性能上有本质区别：

第一种调度（大工作组） #

void glDispatchCompute(1, 1, 1);
layout(local_size_x = 100, local_size_y = 100, local_size_z = 1) in;

• 硬件兼容性问题：几乎所有GPU对单个工作组的最大工作项数量都有限制（通常为1024），而该设置下单个工作组包含10000个工作项，会直接触发运行时错误，程序无法执行。
• 若假设调整为硬件支持的大工作组（比如local_size_x=32, local_size_y=32，共1024个工作项），则能充分利用共享内存和组内同步，大幅提升计算效率。

第二种调度（海量小工作组） #

void glDispatchCompute(100, 100, 1);
layout(local_size_x = 1, local_size_y = 1, local_size_z = 1) in;

• 性能严重浪费：每个工作组仅1个工作项，GPU的 warp/wavefront 单元会有31/63个位置闲置，硬件并行能力完全没发挥，计算性能会暴跌。
• 无法利用协作特性：单个工作项的工作组无法使用共享内存，所有数据读写都依赖高延迟的全局内存；也无法执行组内同步，需要协作的计算场景（如卷积、矩阵运算）无法高效实现。

总结 #

这两种都是不符合GPU最佳实践的极端设置，合理的局部尺寸应匹配硬件 warp/wavefront 大小（如32、64、128），同时保证单个工作组的总工作项数不超过硬件上限，才能让GPU发挥最佳性能。

内容的提问来源于stack exchange，提问作者Shahashahaha