CUDA中是否存在atomicMul()函数?如何实现double类型的原子乘法操作
CUDA double类型原子乘法问题解答
结论
CUDA官方标准原子操作库中没有内置的atomicMul原子乘法函数,也没有单独针对double类型的对应实现。
自定义实现方案
你可以通过CUDA提供的atomicCAS(原子比较并交换)接口,自己实现双精度浮点的原子乘法,设备端实现代码如下:
__device__ double atomicMul(double* addr, double multiplier) { // 将double类型指针转换为atomicCAS支持的unsigned long long类型指针 unsigned long long* addr_ull = reinterpret_cast<unsigned long long*>(addr); unsigned long long old_val = *addr_ull; unsigned long long expected; do { expected = old_val; // 转换为double完成乘法后再转回整数类型用于CAS操作 double new_val = __longlong_as_double(expected) * multiplier; old_val = atomicCAS(addr_ull, expected, __double_as_longlong(new_val)); } while (expected != old_val); // 数值被其他线程修改则重试 return __longlong_as_double(old_val); }
使用注意事项
- 该实现要求GPU计算架构不低于sm_20,2010年之后发布的NVIDIA消费级、数据中心级显卡均满足该要求
- 函数返回值是全局内存中对应变量执行乘法前的原始值,和官方内置原子操作的返回逻辑保持一致
- 高并发场景下多个线程同时修改同一个地址时,重试次数会上升,会带来一定的性能开销,这是所有基于CAS实现的自定义原子操作的共性特征
- 如果你的乘法因子固定为2的整数次幂,可通过移位运算配合原生
atomicAdd实现,性能会远高于自定义CAS方案
内容的提问来源于stack exchange,提问作者user15203065
相关产品推荐
相关产品推荐

