如何自动获取GPU计算能力以配置NVCC的-arch与-code编译参数？

当然有可行的自动化方案！我平时处理这类跨机器GPU编译的需求时，常用下面几种方法，能完全替代手动指定-arch=compute_xx -code=sm_xx的操作：

方案1：编写轻量CUDA程序直接查询（最准确） #

这个方法直接调用CUDA Runtime API获取GPU的Compute Capability，结果最可靠，尤其是当机器上有多个GPU或者驱动版本特殊时。

步骤： #

1. 写一个名为get_cc.cu的小文件：

#include <iostream>
#include <cuda_runtime.h>

int main() {
    int deviceCount;
    cudaGetDeviceCount(&deviceCount);
    
    if (deviceCount == 0) {
        std::cerr << "No CUDA devices found!" << std::endl;
        return 1;
    }
    
    // 默认取第一个GPU，多GPU场景可按需修改逻辑
    cudaDeviceProp props;
    cudaGetDeviceProperties(&props, 0);
    int major = props.major;
    int minor = props.minor;
    
    std::cout << major << minor << std::endl;
    return 0;
}

2. 编译并运行这个程序，拿到Compute Capability的数字（比如75对应Tesla T4的7.5）：

nvcc get_cc.cu -o get_cc
./get_cc

3. 在编译脚本里捕获输出，拼接成NVCC参数：

CC=$(./get_cc)
nvcc your_app.cu -arch=compute_${CC} -code=sm_${CC} -o your_app

如果是多GPU场景，可以修改程序输出所有GPU的CC，然后选择最高版本或目标版本。

方案2：解析nvidia-smi输出（无需编译） #

如果不想额外编译程序，可以直接用nvidia-smi工具提取信息，适合快速脚本场景。

示例Shell脚本： #

# 获取第一个GPU的Compute Capability（格式为x.x）
CC_FULL=$(nvidia-smi --query-gpu=compute_cap --format=csv,noheader,nounits | head -n1)
# 去掉小数点转换成xx格式
CC=$(echo ${CC_FULL} | tr -d '.')

# 传递给NVCC
nvcc your_app.cu -arch=compute_${CC} -code=sm_${CC} -o your_app

示例Python脚本： #

import subprocess

# 调用nvidia-smi获取信息
result = subprocess.check_output(
    ["nvidia-smi", "--query-gpu=compute_cap", "--format=csv,noheader,nounits"],
    text=True
)
# 提取第一个GPU的CC值并格式化
cc_full = result.strip().split('\n')[0]
cc = cc_full.replace('.', '')

# 构造并执行编译命令
compile_cmd = f"nvcc your_app.cu -arch=compute_{cc} -code=sm_{cc} -o your_app"
subprocess.run(compile_cmd, shell=True)

注意：如果机器上有多个GPU，可调整head -n1或Python索引逻辑来选择目标GPU。

方案3：用CMake自动配置（适合CMake项目） #

如果你的项目用CMake构建，现代CMake（3.18+）的CUDA模块已经支持自动检测GPU的Compute Capability，完全不用手动写参数。

CMakeLists.txt示例： #

cmake_minimum_required(VERSION 3.18)
project(your_cuda_app CUDA)

# 自动检测GPU的Compute Capability，生成对应的编译参数
set(CMAKE_CUDA_ARCHITECTURES Auto)

add_executable(your_app your_app.cu)

运行cmake ..时，CMake会自动检测系统中的GPU，设置正确的-arch和-code参数，编译时直接调用make即可。这个方案的优势是完全集成到构建流程，跨机器迁移时无需修改任何配置。

内容的提问来源于stack exchange，提问作者SomethingSomething