PyCUDA实现Sobel算法时cuMemAlloc非法内存访问错误求助

核心问题排查 #

你遇到的LogicError: cuMemAlloc failed: an illegal memory access was encountered，大概率不是内存分配本身的问题，而是核函数中未处理图像边缘导致的越界内存访问，这种错误会触发CUDA的内存保护机制，反向抛出内存分配相关的错误提示。另外也需要确认内存分配与数据拷贝的尺寸完全匹配。

修复后的完整实现代码 #

import pycuda.autoinit
import pycuda.driver as cuda
import numpy as np
from PIL import Image

# Sobel边缘检测核函数
sobel_kernel = """
__global__ void sobel_filter(unsigned char *input, unsigned char *output, int width, int height) {
    int x = blockIdx.x * blockDim.x + threadIdx.x;
    int y = blockIdx.y * blockDim.y + threadIdx.y;

    // 跳过图像边缘像素，避免越界访问内存
    if (x > 0 && x < width - 1 && y > 0 && y < height - 1) {
        // Sobel X方向梯度计算
        int gx = -input[(y-1)*width + (x-1)] - 2*input[y*width + (x-1)] - input[(y+1)*width + (x-1)] +
                 input[(y-1)*width + (x+1)] + 2*input[y*width + (x+1)] + input[(y+1)*width + (x+1)];
        // Sobel Y方向梯度计算
        int gy = -input[(y-1)*width + (x-1)] - 2*input[(y-1)*width + x] - input[(y-1)*width + (x+1)] +
                 input[(y+1)*width + (x-1)] + 2*input[(y+1)*width + x] + input[(y+1)*width + (x+1)];
        // 梯度幅值计算并截断到0-255范围
        int magnitude = abs(gx) + abs(gy);
        output[y*width + x] = magnitude > 255 ? 255 : (magnitude < 0 ? 0 : magnitude);
    } else {
        // 边缘像素直接设为0
        output[y*width + x] = 0;
    }
}
"""

def sobel_gpu_process(image_path):
    # 读取图像并转为灰度格式
    img = Image.open(image_path).convert('L')
    img_np = np.array(img).astype(np.uint8)
    height, width = img_np.shape

    # 分配GPU内存，严格匹配图像字节数
    input_gpu = cuda.mem_alloc(img_np.nbytes)
    output_gpu = cuda.mem_alloc(img_np.nbytes)

    # 主机数据拷贝到GPU
    cuda.memcpy_htod(input_gpu, img_np)

    # 配置线程块与网格尺寸（16x16是常用的线程块大小）
    block_dim = (16, 16, 1)
    grid_dim = ((width + block_dim[0] - 1) // block_dim[0], 
                (height + block_dim[1] - 1) // block_dim[1], 1)

    # 编译核函数并调用
    mod = cuda.SourceModule(sobel_kernel)
    sobel_filter = mod.get_function("sobel_filter")
    sobel_filter(input_gpu, output_gpu, np.int32(width), np.int32(height),
                block=block_dim, grid=grid_dim)

    # GPU结果拷贝回主机
    output_np = np.empty_like(img_np)
    cuda.memcpy_dtoh(output_np, output_gpu)

    # 保存处理后的图像
    result_img = Image.fromarray(output_np)
    result_img.save("sobel_result.png")
    return output_np

# 测试调用
if __name__ == "__main__":
    sobel_gpu_process("test_image.png")

关键修复点说明 #

• 边缘越界防护：核函数中添加了x > 0 && x < width - 1 && y > 0 && y < height - 1的判断，彻底避免访问图像边界外的内存空间
• 内存尺寸严格匹配：使用img_np.nbytes直接获取图像的实际字节数进行内存分配，确保拷贝与分配的尺寸完全一致
• 线程网格合理计算：通过向上取整的方式计算网格尺寸，保证每个像素都能被线程覆盖处理

内容的提问来源于stack exchange，提问作者Camilo René Duque Becerra