为何malloc为double**赋值的代码在C中正常，CUDA编译报错？

• NVCC处理.cu后缀文件时默认遵循C编译规范。C语言允许void*类型指针隐式转换为任意其他类型指针，所以纯C环境下编译运行正常；但C禁止void*的隐式类型转换，必须显式指定转换类型，因此编译时报类型不匹配错误。
• 之前添加强转后出现内存访问异常，通常是两类原因导致：一是强转时类型写错，二是后续代码错误地将host侧malloc分配的内存指针直接传入CUDA核函数访问——GPU核函数无法直接读取主机侧普通堆内存，直接访问必然触发内存异常。

• 首先修正malloc调用的显式类型强转，正确写法如下：

int key_size = 1000;
int references = 40;
double **ref_ptr;

ref_ptr = (double **)malloc(references * sizeof *ref_ptr);    
for(int i = 0; i<references;i++){
    ref_ptr[i] = (double *)malloc(key_size * sizeof *ref_ptr[i]);
}

• 排查内存访问异常：
  • 若这部分内存仅在主机侧CPU代码中使用，正确强转后不会出现内存问题，可排查其他代码段是否存在数组越界、野指针访问等问题。
  • 若这部分内存需要供GPU核函数使用，不能直接用主机侧malloc分配，需要改用CUDA runtime提供的内存管理接口：用cudaMalloc分配设备侧内存，通过cudaMemcpy完成主机与设备之间的数据拷贝，核函数只能访问设备侧内存指针。
• 特殊场景可选方案：如果整个.cu文件仅包含纯C逻辑没有CUDA核函数相关代码，可以在NVCC编译参数中添加-x c，强制编译器以C规则编译该文件，无需修改malloc相关代码即可通过编译。

内容的提问来源于stack exchange，提问作者DP_Corcoran