CUDA/C++生成DLL时出现__fatbinwrap未定义引用错误求助

问题根源 #

1. __global__核函数不能直接用__declspec(dllexport)导出：核函数运行在GPU上，无法被宿主程序直接调用，只能通过宿主端函数间接启动，导出核函数不仅无效，还会引发编译链接混乱。
2. 编译流程错误：你直接用nvcc -dlink编译.cu源文件，正确流程应该是先编译成可重定位设备目标文件，再执行设备链接。
3. MinGW的ld链接器对CUDA生成的目标文件兼容性较差，优先用nvcc完成链接步骤更稳妥。

修正后的代码 #

kernel.cuh #

#ifndef KERNEL_CUH
#define KERNEL_CUH

#include <cuda_runtime.h>

// 核函数声明（仅内部调用，无需导出）
__global__ void add(int n, float *a, float *b, float *sum);

// 导出宿主端启动函数，供外部程序调用
extern "C" __declspec(dllexport) void launchKernel();

#endif

kernel.cu #

#include <iostream>
#include <cuda_runtime.h>
#include "kernel.cuh"

// 核函数实现（无需extern "C"，仅内部使用）
__global__ void add(int n, float *a, float *b, float *sum)
{
    int i = blockIdx.x * blockDim.x + threadIdx.x;
    if (i < n) // 必须加越界检查，避免GPU访问非法内存
        sum[i] = a[i] + b[i];
}

// 宿主端启动函数，导出供外部调用
extern "C" __declspec(dllexport) void launchKernel()
{
    std::cout << "function called" << std::endl;
    
    // 补全核函数启动的完整逻辑示例
    int n = 1024;
    float *h_a = new float[n];
    float *h_b = new float[n];
    float *h_sum = new float[n];
    
    // 初始化宿主端数据
    for (int i = 0; i < n; ++i) {
        h_a[i] = static_cast<float>(i);
        h_b[i] = static_cast<float>(i * 2);
    }
    
    // 分配设备内存
    float *d_a, *d_b, *d_sum;
    cudaMalloc(&d_a, n * sizeof(float));
    cudaMalloc(&d_b, n * sizeof(float));
    cudaMalloc(&d_sum, n * sizeof(float));
    
    // 数据从宿主拷贝到设备
    cudaMemcpy(d_a, h_a, n * sizeof(float), cudaMemcpyHostToDevice);
    cudaMemcpy(d_b, h_b, n * sizeof(float), cudaMemcpyHostToDevice);
    
    // 启动核函数
    add<<<1, n>>>(n, d_a, d_b, d_sum);
    
    // 结果从设备拷贝回宿主
    cudaMemcpy(h_sum, d_sum, n * sizeof(float), cudaMemcpyDeviceToHost);
    
    // 清理资源
    delete[] h_a;
    delete[] h_b;
    delete[] h_sum;
    cudaFree(d_a);
    cudaFree(d_b);
    cudaFree(d_sum);
}

正确编译链接命令 #

步骤1：编译.cu为可重定位设备代码目标文件 #

nvcc -c -rdc=true -o kernel.obj kernel.cu

• -c：只编译不链接
• -rdc=true：启用可重定位设备代码，支持宿主函数启动核函数的场景

步骤2：设备链接（生成包含GPU二进制的目标文件） #

nvcc -dlink -o kernel_dlink.obj kernel.obj -lcudart -lcudadevrt

• -dlink：专门处理设备端代码链接，生成包含fatbin的目标文件，解决__fatbinwrap未定义问题

步骤3：生成DLL（优先用nvcc链接） #

nvcc -shared -o kernel.dll kernel.obj kernel_dlink.obj -lcudart -lcudadevrt

若坚持用g++链接，需确保路径正确，命令如下：

g++ -shared -o kernel.dll kernel.obj kernel_dlink.obj -L"C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.0\lib\x64" -lcudart -lcudadevrt -lcuda

关键注意事项 #

• 核函数无需导出：外部程序只能通过导出的宿主函数间接启动核函数，不能直接调用GPU核函数。
• 必须启用RDC：当宿主函数需要启动核函数时，-rdc=true是强制要求，否则会出现fatbin相关的未定义错误。
• 库依赖：cudart是CUDA运行时核心库，cudadevrt是启用RDC必需的设备运行时库，cuda库仅在直接调用驱动API时需要，多数场景可省略。
• 越界检查：核函数中必须添加if (i < n)，避免线程索引超出数组范围导致GPU崩溃。

内容的提问来源于stack exchange，提问作者Sunset_