关于在Matlab中运行含CUDA代码的C程序的技术疑问

我之前刚好折腾过Matlab调用CUDA代码的场景，给你梳理下这两种方法的细节，应该能解决你的疑问：

• 不需要先用VS单独编译.cu文件：Matlab自带的mex命令本身就能直接编译CUDA代码，前提是你已经配置好Matlab的CUDA编译环境（比如Matlab能识别到你的NVCC编译器）。你只需要在Matlab命令行里运行mex your_cuda_code.cu，Matlab会自动调用NVCC处理CUDA核函数和设备代码，最后链接成可在Matlab里直接调用的MEX文件。
• VS编译无main()的.cu报错的原因：VS默认是编译生成可执行文件，要求必须有main()入口。但其实完全没必要用VS单独编译这类文件，直接用Matlab的mex命令更省心，它会自动把目标设置为MEX文件，不需要main()，而是要求你实现mexFunction()作为MEX的入口函数。
• 不建议在.cu里保留main()：MEX文件的唯一合法入口是mexFunction()，main()在这里会被忽略甚至导致编译错误。正确的做法是把原来main()里的逻辑封装成单独的函数（比如处理GPU计算的函数），然后在mexFunction()里调用这个函数，同时用Matlab提供的GPU交互API（比如mxGPUCreateFromMxArray、mxGPUGetData）把Matlab的数组（包括gpuArray）转换成CUDA能处理的指针。

• 不需要在VS里编译核函数：你只需要写好包含CUDA核函数的.cu文件，然后用NVCC命令行编译成PTX（并行线程执行）文件就行，命令是nvcc -ptx your_kernel.cu，生成的.ptx文件就是Matlab能识别的中间代码。
• 具体操作步骤：
  1. 用NVCC编译.cu生成PTX文件；
  2. 在Matlab中用k = parallel.gpu.CUDAKernel('your_kernel.ptx', 'your_kernel.cu');创建核对象，第二个参数是原.cu文件，用来让Matlab识别核函数的参数签名；
  3. 设置核函数的线程配置：比如k.ThreadBlockSize = [32 1 1];，k.GridSize = [ceil(N/32) 1 1];（N是你要处理的数据量）；
  4. 用feval(k, output_gpu_array, input_gpu_array, ...)执行核函数，参数可以直接传Matlab的gpuArray对象，Matlab会自动完成设备内存的传递和同步。

额外小提示 #

不管用哪种方法，一定要确保你的Matlab版本和CUDA版本是兼容的，而且要把NVCC的路径加到系统环境变量里，让Matlab能找到编译器。

内容的提问来源于stack exchange，提问作者Umbriona