Blackwell架构Tensor Core的FP6/FP4 PTX编译问题求助

核心原因 #

sm_121a是Blackwell架构的alpha预览版本目标，该版本不支持.kind::f8f6f4标识及FP6/FP4的Tensor Core指令扩展。完整的Blackwell架构支持需使用sm_120或sm_121（不带后缀a）。

1. 修正编译架构参数 #

将编译命令中的-arch=sm_121a替换为sm_121（或sm_120，根据具体Blackwell型号选择）：

nvcc cuda_test.cu -o cuda_test -arch=sm_121

2. 显式指定PTX版本（可选） #

若仍有问题，可指定PTX版本为7.8（CUDA 13.0对应的版本，完整支持Blackwell的FP6/FP4指令）：

nvcc cuda_test.cu -o cuda_test -arch=sm_121 -ptx-version=7.8

3. 验证指令格式 #

确保FP6/FP4指令格式符合PTX ISA文档要求，例如FP4E2M1的指令应为：

mma.sync.aligned.m16n8k32.row.col.kind::f8f6f4.f32.e2m1.e2m1.f32

额外注意事项 #

• 本地无显卡时，只要指定正确的目标架构，nvcc可生成对应架构的二进制文件，后续可上传至Blackwell设备运行。
• 必须使用CUDA 13.0及以上版本，低版本工具包不支持Blackwell的FP6/FP4指令。

内容的提问来源于stack exchange，提问作者Junhao Liu