多GPU系统中OpenCL全局内存分配异常问题咨询

你的问题根源在于Intel(R) OpenCL HD Graphics是集成GPU（核显），这类GPU没有独立的物理显存，所有所谓的"GPU内存"都是从系统主内存中划分出来的共享内存。

核心原因分析 #

• 显存本质是共享系统内存：clinfo显示的每块GPU12GB内存，是单块核显能申请的最大系统内存额度，但两块核显共享同一份系统内存池——也就是说系统能分配给核显的总内存上限就是约12GB，不是两块相加的24GB。当你在两块设备上累计分配的内存接近这个上限时，就会触发内存不足错误。
• CL_OUT_OF_HOST_MEMORY错误的含义：因为核显使用的是主机系统内存，当分配总量超过系统能给核显的内存配额（或系统剩余可用内存不足）时，OpenCL会返回CL_OUT_OF_HOST_MEMORY(-6)，而不是CL_OUT_OF_DEVICE_MEMORY，这也侧面验证了内存来源是主机系统内存。

代码与运行结果验证 #

从运行结果看，累计分配到130048MB（约1262512MB=130048MB，接近12GB）时触发错误，完全符合共享内存池的上限特征。你创建独立Context的代码本身没有问题，但硬件架构的限制导致无法实现"每块GPU分配12GB"的预期。

解决方向 #

• 检查系统配置：查看主机总内存大小，部分主板BIOS中可以调整核显的最大内存分配额度，如果当前系统内存足够（比如32GB以上），可以尝试调高这个值。
• 更换硬件：如果需要真正的多GPU独立显存，建议更换带独立显存的离散GPU（比如NVIDIA/AMD的独立显卡）。
• 优化内存使用：在程序中及时释放不再使用的cl_mem对象，避免不必要的内存占用；或者调整分配策略，按需分配内存，而不是一次性申请大量内存块。

补充验证方法 #

可以通过clGetDeviceInfo获取设备的实际内存参数，进一步确认内存限制：

size_t global_mem_size, max_alloc_size;
clGetDeviceInfo(devices[i], CL_DEVICE_GLOBAL_MEM_SIZE, sizeof(size_t), &global_mem_size, NULL);
clGetDeviceInfo(devices[i], CL_DEVICE_MAX_MEM_ALLOC_SIZE, sizeof(size_t), &max_alloc_size, NULL);
printf("Device %d: Global Mem Size = %zd MB, Max Alloc Size = %zd MB\n", i, global_mem_size/(1024*1024), max_alloc_size/(1024*1024));

对于核显来说，CL_DEVICE_GLOBAL_MEM_SIZE就是系统分配给该核显的最大额度，但实际总可用量受限于系统内存和核显总配额。

内容的提问来源于stack exchange，提问作者ShekarM