Halide Generator编译CUDA GPU目标时输出绿色图像，CPU运行正常求助

现象 #

Halide Generator编译为CUDA GPU目标时，输出图像呈现绿色，但CPU目标下图像显示完全正常。

核心算法实现 #

output(c,x,y) = Halide::cast<uint8_t> (input(mux(c, {1,0,2,3,0,2}), x, y));

调度代码 #

Target target = get_target();
std::cout << "target is :" << target;
if( target.has_gpu_feature()) {
    // GPU调度配置
    output.gpu_tile(x,y,xi,yi,32,32)
          .bound_extent(c,6)
          .unroll(c);
}

CMake目标配置 #

add_halide_library(yuv422decoder FROM yuv422.generator
               TARGETS x86-64-windows-avx-avx2-cuda-f16c-fma-sse41)

CUDA环境验证 #

已通过官方CUDA示例确认环境正常，测试输出如下：

cuda\cuda-samples\bin\win64\Release>histogram.exe    
Initializing 256-bin histogram...
Running 256-bin GPU histogram for 67108864 bytes (16 runs)...

histogram256() time (average) : 0.01611 sec, 4165.7798 MB/sec

histogram256, Throughput = 4165.7798 MB/s, Time = 0.01611 s, Size = 67108864 Bytes, NumDevsUsed = 1, Workgroup = 192

Validating GPU results...
 ...reading back GPU results
 ...histogram256CPU()
 ...comparing the results
 ...256-bin histograms match

Shutting down 256-bin histogram...


Shutting down...

NOTE: The CUDA Samples are not meant for performance measurements. Results may vary when GPU Boost is enabled.

[histogram] - Test Summary
Test passed

问题排查方向 #

• 通道映射的GPU执行偏差：代码通过mux做通道索引重映射（{1,0,2,3,0,2}），GPU的内存布局、向量访问特性可能导致通道索引实际访问位置偏移，比如绿色通道（索引1）被重复输出。
• 调度的通道约束问题：bound_extent(c,6)强制通道维度为6，结合unroll(c)可能引发GPU调度中通道依赖处理错误，或内存访问越界读取错误数据。
• 类型转换的GPU兼容性：Halide::cast<uint8_t>在GPU上的实现与CPU存在差异，比如溢出处理、字节序问题，导致颜色通道数据错误转换。

调试步骤 #

1. 简化调度：先移除unroll(c)，验证是否是循环展开导致的问题；再逐步调整gpu_tile的参数，排查瓦片大小的影响。
2. 对比输出数据：分别打印CPU和GPU目标下各通道的输出值，定位具体哪个通道的数据出现偏差。
3. 查看生成的CUDA代码：检查Halide生成的CUDA内核中，通道索引的映射逻辑是否与CPU目标一致。

内容的提问来源于stack exchange，提问作者Ivan Stimac