Halide调用CUDA编译cuda_mat_mul时触发bad allocation错误求助

内存相关排查 #

• 检查编译时系统可用内存：bad allocation通常由内存不足触发，VS编译Halide代码生成阶段会占用较多内存，关闭浏览器、后台进程等内存占用大户，笔记本切换到高性能模式，确保CPU和GPU内存充足。
• 限制Halide生成阶段内存占用：在CMake配置中添加-DHALIDE_MAX_MEMORY_USAGE=XXXXX（XXXXX设为可用内存的80%，比如16GB内存设为12582912），避免生成代码时过度占用内存。

环境版本兼容性检查 #

• 验证CUDA与Halide版本匹配：Halide 17.0.1对CUDA 12.5的适配可能存在问题，尝试降级到CUDA 11.8（Halide官方测试过的稳定版本），或升级Halide至最新版本。
• 确认VS2022工具集与CUDA插件：确保使用VS2022 v143工具集，且已安装对应CUDA VS插件（CUDA安装时默认配置，缺失可重新运行CUDA安装程序选择修复）。

编译配置调整 #

• 禁用并行编译：在VS项目属性的C/C++ -> 常规中，将多处理器编译设为否，避免并行编译导致内存占用过高。
• 指定GPU架构：RTX3050 Ti属于Ampere架构（sm_86），在CMakeLists.txt中添加set(HALIDE_TARGET "cuda-sm_86")，或CMake配置时手动指定该参数，避免生成不兼容的GPU代码。

代码生成阶段调试 #

• 启用Halide详细日志：在CMake中添加-DHALIDE_LOG_LEVEL=3，编译时查看日志，定位触发内存分配失败的具体步骤，缩小问题范围。
• 手动执行代码生成：找到编译阶段调用的halide_generator.exe工具，手动执行生成命令，同时观察系统内存使用情况，复现并定位错误。

内容的提问来源于stack exchange，提问作者Cordovan