PyCUDA主机到设备值传递异常：2D高斯核函数参数错误

我一眼就看出问题出在标量参数的传递方式上，你错误地给所有标量都套上了cuda.In()包装——这在PyCUDA里是不对的，cuda.In()、cuda.Out()这类内存包装器是用来处理数组/缓冲区的，不是给单个标量用的。

问题根源 #

当你用cuda.In(n_rows)或者cuda.In(n_cols)传递标量时，PyCUDA会把这个标量包装成一个单元素数组的指针，然后把指针地址传递给核函数。但你的核函数里定义的参数是int n_rows、int n_cols，这时候设备端拿到的不是你预期的10，而是这个指针的内存地址（一个很大的随机整数），自然和预期值不符。

修复后的代码 #

下面是修正后的完整代码，我标注了关键修改点：

import numpy as np
import matplotlib.pyplot as plt
import pycuda.driver as cuda
from pycuda.compiler import SourceModule
import pycuda.autoinit

# kernel
kernel = SourceModule("""
#include <stdio.h>
__global__ void gaussian2D(float *output, float x, float y, float sigma, int n_rows, int n_cols)
{
    int i = threadIdx.x + blockIdx.x * blockDim.x;
    int j = threadIdx.y + blockIdx.y * blockDim.y;
    printf("%d ", n_cols);
    if (i < n_cols && j < n_rows) {
        size_t idx = j*n_cols +i;
        //printf("%d ", idx);
    }
}
""")

# host code
def gpu_gaussian2D(point, sigma, shape):
    # 直接转换为匹配CUDA的标量类型，无需包装成数组
    x, y = np.float32(point[0]), np.float32(point[1])
    sigma = np.float32(sigma)
    # 明确用int32匹配CUDA默认的int类型，避免跨平台类型差异
    n_rows, n_cols = np.int32(shape[0]), np.int32(shape[1])
    print(n_rows)
    output = np.empty((1, shape[0]*shape[1]), dtype= np.float32)
    # Get kernel function
    gaussian2D = kernel.get_function("gaussian2D")
    # Define block, grid and compute
    blockDim = (32, 32, 1) # 1024 threads in total
    dx, mx = divmod(shape[1], blockDim[0])
    dy, my = divmod(shape[0], blockDim[1])
    gridDim = ((dx + (mx>0)), (dy + (my>0)), 1)
    # 核心修改：去掉标量参数的cuda.In()包装，直接传递数值
    gaussian2D(
        cuda.Out(output), x, y, sigma,
        n_rows, n_cols, block=blockDim, grid=gridDim)
    return output

point = (5, 5)
sigma = 3.0
shape = (10, 10)
result = gpu_gaussian2D(point, sigma, shape)

额外提示 #

1. 对于标量参数，直接传递Python原生数值（比如int、float）或者对应的numpy标量（np.int32、np.float32）即可，PyCUDA会自动处理设备端的参数传递。
2. 建议明确使用np.int32而不是np.int，因为np.int在不同平台可能是64位，而CUDA默认的int是32位，明确类型可以避免潜在的类型不匹配问题。

内容的提问来源于stack exchange，提问作者Jiadong