JCuda调用CUDA点积Kernel触发libcuda.so核心转储求助

核心问题：参数传递类型不匹配 + 参数打包错误 #

你的JCuda代码在Kernel参数传递上存在两处致命错误，直接导致内存越界访问，触发核心转储：

1. size_t N 参数类型不匹配 #

CUDA Kernel中N的类型是size_t（C++中通常为64位无符号整数），但你在JCuda中用int[]传递numSamples：

Pointer.to(new int[] { numSamples, (kernelVerbose ? 1 : 0) })

Java的int是32位有符号整数，当numSamples超过2^31-1时会直接溢出，即使数值较小，类型不匹配也会导致Kernel读取到错误的N值，进而在grid-stride循环中越界访问向量内存，触发核心转储。

修复方法：用long类型传递N（对应C++的size_t），单独封装为Pointer：

Pointer nPtr = Pointer.to(new long[] { numSamples });

2. 参数打包错误，导致verbose参数错位 #

Kernel的参数顺序是：a, b, result, N, verbose，但你把N和verbose塞进同一个int[]里，这会让Kernel把整个数组的地址当作N的值，后续的verbose参数完全错误，进而导致逻辑混乱（比如verbose被解析成非法地址，printf时崩溃）。

修复方法：每个参数单独创建Pointer，按顺序传递：

Pointer kernelParameters = Pointer.to(
        Pointer.to(deviceInputA),
        Pointer.to(deviceInputB),
        Pointer.to(deviceOutput),
        Pointer.to(new long[] { numSamples }), // 用long匹配size_t
        Pointer.to(new boolean[] { kernelVerbose }) // 用boolean匹配C++的bool
);

3. 额外问题：设备输出内存未初始化 #

C++代码中会把初始值为0的result_gpu拷贝到设备，但JCuda中仅分配了deviceOutput内存，未初始化。虽然atomicAdd会累加，但未初始化的内存可能包含脏数据，建议添加初始化步骤：

float[] initResult = { 0.0f };
cuMemcpyHtoD(deviceOutput, Pointer.to(initResult), Sizeof.FLOAT);

4. 共享内存大小匹配（可选优化） #

Kernel中共享内存大小是THREADS_PER_BLOCK * sizeof(float)，如果THREADS_PER_BLOCK是256，那就是1024字节。JCuda中cuLaunchKernel传递的32768字节是足够的，但为了严谨，可以传递实际需要的大小：

int sharedMemSize = THREADS_PER_BLOCK * Sizeof.FLOAT;
cuLaunchKernel(function,
        gridSizeX, 1, 1,
        blockSizeX, 1, 1,
        sharedMemSize, null, // 替换为实际共享内存大小
        kernelParameters, null
);

完整修复后的JCuda参数传递与初始化代码片段 #

// 初始化设备输出内存为0
float[] initResult = { 0.0f };
CUdeviceptr deviceOutput = new CUdeviceptr();
cuMemAlloc(deviceOutput, Sizeof.FLOAT);
cuMemcpyHtoD(deviceOutput, Pointer.to(initResult), Sizeof.FLOAT);

// 正确构造Kernel参数
Pointer kernelParameters = Pointer.to(
        Pointer.to(deviceInputA),
        Pointer.to(deviceInputB),
        Pointer.to(deviceOutput),
        Pointer.to(new long[] { numSamples }), // 匹配size_t类型
        Pointer.to(new boolean[] { kernelVerbose }) // 匹配bool类型
);

// 计算实际共享内存大小（假设THREADS_PER_BLOCK是常量，比如256）
int sharedMemSize = 256 * Sizeof.FLOAT;

// 启动Kernel
cuLaunchKernel(function,
        gridSizeX, 1, 1,
        blockSizeX, 1, 1,
        sharedMemSize, null,
        kernelParameters, null
);

验证建议 #

1. 先测试小批量数据（比如numSamples=1024），确认修复后是否能正常运行
2. 打开verbose模式，对比C++和JCuda的输出日志，确保线程块、线程数、循环逻辑一致
3. 添加JCuda错误检查：每次调用cuXXX函数后检查返回值，比如：

int result = cuMemAlloc(deviceInputA, numSamples * Sizeof.FLOAT);
if (result != CUresult.CUDA_SUCCESS) {
    System.err.println("cuMemAlloc failed: " + CUresult.stringFor(result));
}

内容的提问来源于stack exchange，提问作者Richard Sand