如何强制OpenCL工作组所有线程执行相同if/else分支适配共享内存优化

问题解答 #

1. 技巧的通用性与名称
   这个操作是GPGPU领域的标准常用操作，正式名称为工作组分支收敛（Workgroup Branch Convergence），也可称为全工作组谓词聚合，不属于临时hack。所有需要保证工作组内所有线程执行同一路径的场景（比如统一执行共享内存读写、barrier同步、波前指令）都会用到该操作，在OpenCV的异构计算后端、Blender的Cycles光线追踪内核、各类线性代数库的GPGPU实现中都有大规模应用。
2. 大工作组性能下降的原因
   同一块local内存地址的原子操作会触发硬件级冲突串行，工作组越大，同时竞争同一个原子变量的线程越多，串行开销占比就越高，因此256及以上规模的工作组下性能会出现明显下滑。
3. 更优的实现方案
   按适用场景优先级推荐三类方案：

• 优先用硬件原生内置函数：如果运行环境支持OpenCL 2.0及以上版本，或者cl_khr_subgroups/cl_nv_work_group_any这类厂商拓展，直接调用内置的work_group_any(condition)函数即可，该函数由硬件原生实现，不需要手写原子或归约逻辑，性能最优、代码最简洁。
• 次优采用子组聚合减少原子冲突：先在子组（warp/wavefront）内用subgroup_any(condition)得到每个子组的聚合结果，仅由每个子组的leader线程执行一次原子OR，原子操作的数量会从全工作组线程数降到「工作组大小/子组大小」，256线程的工作组仅需要4~8次原子操作，即可解决大工作组下的性能下降问题，示例代码：

local uint condition_any;
condition_any = 0u;
barrier(CLK_LOCAL_MEM_FENCE);
bool sg_cond = subgroup_any(condition);
if (subgroup_elect()) { // 仅子组leader线程执行原子操作
    atomic_or(&condition_any, sg_cond);
}
barrier(CLK_LOCAL_MEM_FENCE);

• 无原子兼容方案：如果运行环境不支持子组拓展，可以用共享内存归约实现OR聚合，完全规避原子操作冲突，大工作组下性能比直接原子实现稳定很多：

local uint cond_cache[def_ws];
cond_cache[lid] = condition;
barrier(CLK_LOCAL_MEM_FENCE);
// 对数次归约OR
for (uint step = 1; step < def_ws; step <<= 1) {
    if (lid < def_ws - step && (lid & (step * 2 - 1)) == 0) {
        cond_cache[lid] |= cond_cache[lid + step];
    }
    barrier(CLK_LOCAL_MEM_FENCE);
}
uint condition_any = cond_cache[0];
barrier(CLK_LOCAL_MEM_FENCE);

额外优化提示：你当前test_optimized里的两次barrier可以根据实际逻辑调整，如果内层循环不会修改cache_x的数值，仅需要保留共享内存写入后的一次barrier即可，循环结束后的barrier如果没有后续共享内存写入操作可以直接移除，能进一步降低同步开销。

内容的提问来源于stack exchange，提问作者ProjectPhysX