使用GCC+OpenMP无法GPU卸载：omp_get_num_devices返回0求助

问题描述 #

我写了一个用OpenMP将SAXPY任务卸载到GPU的测试程序，但omp_get_num_devices()返回0，说明无可用卸载目标；且目标区域内omp_is_initial_device()返回1，程序只能回退到CPU运行。我的设备为RTX 4070Ti+i7-11700（带核显），系统是Linux Mint 21。编译命令如下：

g++ -fopenmp -g -O2 saxpy.cpp -o saxpy

执行gcc -v能看到已配置nvptx-none卸载目标，但GPU仍无法被识别。测试代码：

#include <stdlib.h>
#include <stdio.h>
#include <omp.h>

#define SAXPY_SIZE 1024*1024*1024

void saxpy(float a, float* x, float* y, int sz) {
    double runtime = omp_get_wtime();

    #pragma omp target device(1) map(to:x[0:sz]) map(tofrom:y[0:sz])
    {
        #pragma omp parallel for simd firstprivate(a)
        for (size_t i = 0; i < sz; i++)
        {
            y[i] = a * x[i] + y[i];
        }
        printf("%d\n", omp_is_initial_device());
    }

    runtime = omp_get_wtime() - runtime;
    printf("%8d kb SAXPY Runtime: %lf\n", sz/1024, runtime);
}

int main(void) {
    float a, *x, *y;
    x = (float*)malloc(sizeof(float) * SAXPY_SIZE);
    y = (float*)malloc(sizeof(float) * SAXPY_SIZE);

    printf("%d devices\n", omp_get_num_devices());

    for (size_t i = 4096; i <= SAXPY_SIZE; i *= 2)
    {
        saxpy(1.0, x, y, i);
    }
    
    return 0;
}

诊断与解决步骤 #

1. 确认NVIDIA驱动与CUDA工具链状态 #

• 执行nvidia-smi，若能显示GPU型号、显存等信息，说明驱动正常；若报错，通过Linux Mint的driver-manager安装对应RTX 4070Ti的闭源驱动。
• 安装CUDA Toolkit：GCC的nvptx目标依赖CUDA工具链（无需写CUDA代码），选择与当前GCC版本兼容的CUDA版本（如GCC11对应CUDA11.7+）。安装后配置环境变量：

  export PATH=/usr/local/cuda/bin:$PATH
  export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
  

2. 修改编译命令，明确GPU目标与架构 #

默认-fopenmp仅启用CPU OpenMP，需添加参数指定GPU目标与架构（RTX4070Ti为Ampere架构，对应sm_86）：

g++ -fopenmp -fopenmp-targets=nvptx-none -Xopenmp-target=nvptx-none -march=sm_86 -g -O2 saxpy.cpp -o saxpy

• -fopenmp-targets=nvptx-none：明确指定卸载目标为NVIDIA GPU
• -Xopenmp-target=nvptx-none -march=sm_86：指定GPU架构，避免通用代码兼容性问题

3. 配置环境变量强制GPU卸载 #

设置环境变量让程序在GPU不可用时直接报错，而非回退CPU，便于排查：

export OMP_TARGET_OFFLOAD=MANDATORY

若需指定使用独立显卡（核显可能被识别为设备0，RTX4070Ti为设备1），可添加：

export CUDA_VISIBLE_DEVICES=1

4. 修正代码中的设备编号问题 #

代码中device(1)在无可用GPU时无效，建议先让OpenMP自动选择设备：

#pragma omp target map(to:x[0:sz]) map(tofrom:y[0:sz])

也可在main函数中添加设备信息打印，确认可用设备：

int num_devices = omp_get_num_devices();
printf("Number of devices: %d\n", num_devices);
for (int i = 0; i < num_devices; i++) {
    omp_set_default_device(i);
    printf("Device %d is initial? %d\n", i, omp_is_initial_device());
}

5. 验证GCC版本与卸载支持 #

确认GCC版本为11及以上（对Ampere架构支持更好），执行gcc -v检查输出中是否包含--enable-offload-targets=nvptx-none，若版本过低则升级GCC。

6. 检查权限与冲突 #

• 将当前用户加入video组，获取GPU访问权限：

  sudo usermod -aG video $USER
  

  执行后重新登录生效。
• 确保未同时启用其他GPU运行时（如ROCm），避免环境冲突。

内容的提问来源于stack exchange，提问作者Alex