CUDA结构体深度拷贝问题：主机与设备数据同步崩溃排查

带指针成员的结构体直接在主机和设备间拷贝是浅拷贝，只会复制指针的数值（主机内存地址），GPU无法访问主机内存，核函数根本没法正确修改data；反过来把设备端的结构体拷贝回主机时，结构体里的data指针会变成GPU设备内存的地址，CPU直接访问设备内存就会触发0xC0000005访问违例。

需要分步骤完成内存分配和拷贝，确保设备端结构体的指针指向GPU本地内存：

1. 假设你的结构体定义如下 #

typedef struct {
    int x, y;
} Data;

typedef struct {
    Data* data;
} Test;

2. 修正后的完整流程代码 #

#include <cuda_runtime.h>
#include <stdio.h>

__global__ void modifyTest(Test* dev_test) {
    dev_test->data->x = 100;
    dev_test->data->y = 200;
}

int main() {
    // 主机端初始化数据
    Test host_test;
    Data host_data = {10, 20};
    host_test.data = &host_data;

    // 1. 分配设备端结构体内存
    Test* dev_test;
    cudaMalloc(&dev_test, sizeof(Test));

    // 2. 分配设备端Data内存，并拷贝主机Data到设备
    Data* dev_data;
    cudaMalloc(&dev_data, sizeof(Data));
    cudaMemcpy(dev_data, host_test.data, sizeof(Data), cudaMemcpyHostToDevice);

    // 3. 更新设备端结构体的data指针，指向设备上的Data内存
    cudaMemcpy(&dev_test->data, &dev_data, sizeof(Data*), cudaMemcpyHostToDevice);

    // 4. 调用核函数修改数据
    modifyTest<<<1,1>>>(dev_test);
    cudaDeviceSynchronize(); // 等待核函数执行完成

    // 5. 回传数据到主机：优先拷贝Data内容，避免拿到设备内存地址
    cudaMemcpy(host_test.data, dev_data, sizeof(Data), cudaMemcpyDeviceToHost);

    // 此时可安全访问更新后的数据
    printf("x: %d, y: %d\n", host_test.data->x, host_test.data->y);

    // 6. 释放所有设备内存
    cudaFree(dev_data);
    cudaFree(dev_test);
    return 0;
}

关键步骤说明 #

• 不能直接拷贝整个Test结构体到设备：主机端host_test.data是主机内存地址，设备端拿到这个地址也无法访问。
• 必须单独在设备上分配Data的内存，把主机的Data拷贝过去，再把设备端Data的地址赋值给设备端Test的data成员。
• 回传时优先拷贝Data内容回主机，而非直接拷贝Test结构体，避免主机拿到无效的设备内存地址。

• 移除设备到主机的拷贝步骤：主机端host_test.data仍指向原主机内存，所以能访问，但核函数因为设备端data指向主机内存，GPU无法写入（或写入无效地址），导致x、y值未更新。
• 保留设备到主机的拷贝步骤：拷贝后host_test.data变为GPU设备内存地址，CPU无权限访问设备内存，直接读取触发0xC0000005访问违例。

内容的提问来源于stack exchange，提问作者YorGurt