2024年能否用类C++语言编写OpenCL内核在NVIDIA GPU运行？

OpenCL中用C++编写内核的发展历程较为曲折：

• 随OpenCL v2.1标准化的OpenCL C++ kernel language未获广泛认可，且从未得到NVIDIA GPU支持；
• OpenCL 3.0彻底弃用该方案，转而采用2021年发布的C++ for OpenCL——它基于实现C++17子集的Clang/LLVM编译器与SPIR-V中间代码。

截至2024年12月，能否借助NVIDIA自有工具或Clang/LLVM等编译类C++内核语言，使其在NVIDIA GPU上运行？若可行，具体流程是怎样的？

我推测流程大致为：

C++-for-OpenCL源代码

[支持C++-for-OpenCL的编译器如Clang]>
中间表示（如SPIR-V或PTX）

[NVIDIA相关工具]>

GPU上运行的内核

但我对此并不确定，也不清楚具体操作细节。

注： #

• 不关注其他让GPU运行C++代码的方案（如CUDA内核、NVIDIA Thrust、SYCL、OpenMP、OpenACC等）；
• 2019年曾提出类似问题，如今情况已不同，故再次问询；
• 若能从C++-for-OpenCL得到PTX，后续流程已知：将PTX加载到内存并调用cuModuleLoad()。

截至2024年12月，可以通过Clang/LLVM工具链将C++ for OpenCL代码编译为PTX，进而在NVIDIA GPU上运行，你的推测流程方向完全正确，具体操作细节如下：

一、核心编译执行流程 #

1. 用Clang将C++ for OpenCL代码编译为SPIR-V #

使用Clang 12及以上版本（对C++ for OpenCL支持更完善），执行以下命令直接生成SPIR-V中间码：

clang -cl-std=c++foropencl -target spir64-unknown-unknown -emit-spirv -o your_kernel.spv your_kernel.cpp

如果需要分步调试，也可以先生成LLVM IR再转换为SPIR-V：

# 生成LLVM IR
clang -cl-std=c++foropencl -target spir64-unknown-unknown -emit-llvm -S your_kernel.cpp -o your_kernel.ll
# 转换为SPIR-V目标文件
llc -O3 -mtriple=spir64-unknown-unknown -filetype=obj your_kernel.ll -o your_kernel.o
# 汇编为SPIR-V二进制
spirv-as your_kernel.o -o your_kernel.spv

2. 将SPIR-V转换为PTX #

使用CUDA Toolkit 11.0及以上版本自带的spirv-to-ptx工具，执行转换命令：

spirv-to-ptx your_kernel.spv -o your_kernel.ptx

该工具会将SPIR-V中间码直接翻译为NVIDIA GPU可识别的PTX指令集。

3. 加载PTX并运行内核 #

这一步如你所述，通过CUDA Driver API完成：

1. 调用cuModuleLoad()或cuModuleLoadData()加载生成的PTX文件；
2. 通过cuModuleGetFunction()获取内核函数的句柄；
3. 调用cuLaunchKernel()配置内核参数并启动执行。

二、关键注意事项 #

• Clang版本要求：Clang 14及以上对C++17子集的覆盖更全面，支持lambda、模板、部分智能指针等特性，但需注意OpenCL本身不支持异常处理，编写内核时需规避相关代码；
• CUDA Toolkit版本：spirv-to-ptx从CUDA 11.0开始正式提供，建议使用CUDA 11.5及以上版本，兼容性更好；
• 特性兼容性：并非所有C++17特性都能在NVIDIA GPU上运行，复杂模板元编程、动态多态等特性可能受PTX指令集限制，需参考NVIDIA官方PTX支持文档调整代码。

内容的提问来源于stack exchange，提问作者einpoklum