CUDA中自定义Vertex结构体的设备端内存分配与拷贝问题

你遇到的核心问题是：直接拷贝Vertex数组时，主机端的Edge*指针会被原封不动复制到设备端，但这个指针指向的是主机内存地址，设备端无法访问，因此会触发段错误。必须分两步处理：先拷贝结构体的基础数据，再单独为每个顶点的边数组分配设备内存并拷贝数据，最后更新设备端结构体的指针。

假设主机端initial_partition是包含N个Vertex元素的数组，具体实现步骤如下：

1. 分配设备端Vertex数组内存 #

Vertex *d_initial_partition;
cudaError_t err = cudaMalloc(&d_initial_partition, N * sizeof(Vertex));
if (err != cudaSuccess) {
    fprintf(stderr, "cudaMalloc failed: %s\n", cudaGetErrorString(err));
    return -1;
}

2. 拷贝Vertex结构体的基础字段到设备端 #

先把主机端结构体中的非指针字段（deg、nome）以及暂时无效的edges指针拷贝到设备端：

err = cudaMemcpy(d_initial_partition, initial_partition, N * sizeof(Vertex), cudaMemcpyHostToDevice);
if (err != cudaSuccess) {
    fprintf(stderr, "cudaMemcpy Vertex array failed: %s\n", cudaGetErrorString(err));
    cudaFree(d_initial_partition);
    return -1;
}

3. 逐个处理每个Vertex的edges数组 #

循环遍历每个顶点，为其边数组分配设备内存，拷贝数据后，更新设备端结构体的edges指针：

for (int i = 0; i < N; i++) {
    // 跳过无连接边的顶点（deg为0时无需分配内存）
    if (initial_partition[i].deg == 0) continue;

    Edge *d_edges;
    err = cudaMalloc(&d_edges, initial_partition[i].deg * sizeof(Edge));
    if (err != cudaSuccess) {
        fprintf(stderr, "cudaMalloc edges for vertex %d failed: %s\n", i, cudaGetErrorString(err));
        // 释放已分配的内存后退出
        for (int j = 0; j < i; j++) {
            if (initial_partition[j].deg > 0) cudaFree(d_initial_partition[j].edges);
        }
        cudaFree(d_initial_partition);
        return -1;
    }

    // 拷贝主机端边数据到设备端
    err = cudaMemcpy(d_edges, initial_partition[i].edges, initial_partition[i].deg * sizeof(Edge), cudaMemcpyHostToDevice);
    if (err != cudaSuccess) {
        fprintf(stderr, "cudaMemcpy edges for vertex %d failed: %s\n", i, cudaGetErrorString(err));
        cudaFree(d_edges);
        for (int j = 0; j < i; j++) {
            if (initial_partition[j].deg > 0) cudaFree(d_initial_partition[j].edges);
        }
        cudaFree(d_initial_partition);
        return -1;
    }

    // 更新设备端Vertex的edges指针，指向刚分配的设备内存
    err = cudaMemcpy(&d_initial_partition[i].edges, &d_edges, sizeof(Edge*), cudaMemcpyHostToDevice);
    if (err != cudaSuccess) {
        fprintf(stderr, "cudaMemcpy edges pointer for vertex %d failed: %s\n", i, cudaGetErrorString(err));
        cudaFree(d_edges);
        for (int j = 0; j < i; j++) {
            if (initial_partition[j].deg > 0) cudaFree(d_initial_partition[j].edges);
        }
        cudaFree(d_initial_partition);
        return -1;
    }
}

4. 设备内存的释放 #

使用完设备端数据后，必须按顺序释放内存：先释放每个顶点的edges数组，再释放d_initial_partition本身：

for (int i = 0; i < N; i++) {
    if (initial_partition[i].deg > 0) {
        cudaFree(d_initial_partition[i].edges);
    }
}
cudaFree(d_initial_partition);

关键注意事项 #

• 必须检查CUDA API的返回值：任何CUDA操作都可能失败，及时捕获错误能快速定位问题，避免内存泄漏或崩溃。
• 指针地址的特殊性：主机端和设备端的内存空间完全独立，不能直接将主机指针赋值给设备端结构体的指针字段，必须重新分配设备内存并拷贝数据。

内容的提问来源于stack exchange，提问作者Alex