OpenMP运行时GPU线程数设置不生效及非法内存访问问题求助
问题原因解析
1. 线程数设置不生效的原因
omp_set_num_threads函数仅对调用之后启动的parallel并行区域生效,你将它放在已经进入的parallel块内部,对当前已经启动的并行区域完全不起作用,当前并行区域使用的是启动时的默认线程数。- 从你输出8次线程数的表现来看,当前
target区域实际跑在主机CPU上,并没有成功卸载到GPU执行,默认线程数等于你CPU的逻辑核心数(此处为8核),所以会打印8次线程数为8的日志。 - 如果要指定
parallel区域的线程数,要么在parallel指令上通过num_threads子句指定,要么在进入parallel区域之前调用omp_set_num_threads。
2. 将omp_set_num_threads放在target块内报错的原因
- 你使用的GCC libgomp库没有在CUDA设备端实现
omp_set_num_threads接口,target块内的代码会被编译为设备代码在GPU上执行,调用未实现的主机端接口就会触发非法内存访问错误。 - 要正确将代码卸载到GPU执行,还需要完成以下必要配置:
- 编译时添加对应GPU架构的卸载编译选项,比如GCC编译NVIDIA GPU代码需要添加
-fopenmp -foffload=nvptx-none参数 - 显式通过
map子句完成主机和设备之间的数据传输,你当前代码没有对array、totalSum等变量做映射,即使开启了卸载编译选项,也无法正确在GPU上访问这些变量 - 运行时可以设置环境变量
OMP_TARGET_OFFLOAD=MANDATORY,强制代码走GPU卸载,不会回退到CPU执行,方便排查卸载是否生效
- 编译时添加对应GPU架构的卸载编译选项,比如GCC编译NVIDIA GPU代码需要添加
参考正确写法
#include <omp.h> #include <iostream> using namespace std; int main(){ const int N = 1000; int array[N]; int totalSum = 0; for (int i=0; i<N; i++){ array[i]=i; } // 显式映射数据,并行for直接做归约 #pragma omp target map(to:array[0:N]) map(tofrom:totalSum) #pragma omp parallel for reduction(+:totalSum) num_threads(128) for (int i=0; i<N; i++){ totalSum += array[i]; } printf ( "Calculated sum should be %d but is %d\n", N*(N-1)/2, totalSum ); return 0; }
注:GPU上的OpenMP线程数需要符合CUDA硬件限制,比如每个块的线程数最大为1024,且建议设为32的倍数以最大化硬件利用率。
内容的提问来源于stack exchange,提问作者RaisinMoldyBread
相关产品推荐
相关产品推荐

