cudaFreeHost释放成功分配的cudaHostAlloc内存时出错的技术问询

我有一个函数，通过cudaHostAlloc分配尽可能多的固定主机内存，再使用cudaFreeHost释放。该代码已稳定运行7年，但近期有开发者在调用cudaFreeHost时，针对已成功分配的内存指针持续报错，错误码为cudaErrorMemoryAllocation，报错发生在分配约15GiB固定内存后。

我的疑问：

• 针对cudaHostAlloc成功返回的指针，调用cudaFreeHost是否可能报错？
• 下方的最小复现示例代码存在什么bug，或是有其他理解误区？

触发条件 #

该错误仅在以下三个条件同时满足时出现：

• Windows操作系统
• 3000系列GPU（具体为RTX 3060）
• 显示器连接至GPU

Windows事件日志内容 #

The description for Event ID 0 from source nvlddmkm cannot be found. Either the component that raises this event is not installed on your local computer or the installation is corrupted. You can install or repair the component on the local computer.
If the event originated on another computer, the display information had to be saved with the event.
The following information was included with the event:
\Device\000000b5
Error occurred on GPUID: 100

环境与临时解决方案 #

机器配置：RTX 3060（12GiB显存），物理内存32GiB。将系统页面文件大小从自动分配的6GiB手动调整至8GiB后，问题消失。

复现代码 #

#include <cuda_runtime.h>
#include <vector>
#include <stdexcept>
#include <iostream>

size_t MeasureMaxPinnedMemory() {

    size_t maxBytes = 128llu * 1024 * 1024 * 1024;// test up to 128 GiB

    size_t incBytes = 64llu * 1024 * 1024;// 64 MiB chunks

    std::vector<void*> pointers;
    pointers.reserve(maxBytes / incBytes);

    size_t bytes = 0;

    while (bytes < maxBytes) {

        void* ptr;
        cudaError_t cudaStatus = cudaHostAlloc(&ptr, incBytes, cudaHostAllocDefault);

        if (cudaStatus != cudaSuccess) {

            if (cudaStatus != cudaErrorMemoryAllocation)
                throw std::runtime_error("MeasureMaxPinnedMemory encountered unexpected CUDA error code");

            cudaStatus = cudaGetLastError(); //Clears the cudaHostAlloc error;

            if (cudaStatus != cudaErrorMemoryAllocation)
                throw std::runtime_error("MeasureMaxPinnedMemory encountered unexpected CUDA error code");

            cudaStatus = cudaGetLastError(); //CUDA error state should be zero now

            if (cudaStatus != cudaSuccess)
                throw std::runtime_error("MeasureMaxPinnedMemory could not reset CUDA error state");

            break;
        }

        pointers.push_back(ptr);
        bytes += incBytes;
    }

    for (auto const& p : pointers) {
        cudaError_t cudaStatus = cudaFreeHost(p);
        if (cudaStatus != cudaSuccess)
            throw std::runtime_error("MeasureMaxPinnedMemory failed to free memory");
    }

    return bytes;
}

int main(int argc, char* argv[]) {
    try{
        auto bytes = MeasureMaxPinnedMemory();
        std::cout << "Max Pinned Memory: " << bytes << "\n";
    }
    catch (const std::exception& exc) {
        std::cerr << exc.what() << "\n";
    }

    std::cout << " \nPress any key to continue\n";
    std::cin.ignore();

    return 0;
}

1. cudaFreeHost针对成功分配的指针是否可能报错？ #

是的，这种情况确实可能发生，尤其在你遇到的Windows+30系GPU+显卡承担显示任务的特定场景下。

原因在于Windows的WDDM（Windows Display Driver Model）驱动机制：当GPU同时负责显示输出时，WDDM会动态管理系统内存作为显存的后备空间，即使物理显存未被占满。在释放固定主机内存时，CUDA驱动需要和WDDM交互，完成显存映射关系的清理，这个过程可能需要临时使用系统页面文件空间。如果页面文件不足以支撑这一临时需求，就会触发cudaErrorMemoryAllocation错误。

2. 复现代码是否存在bug？ #

复现代码的核心逻辑没有问题，不过有一处可简化的细节：处理cudaHostAlloc失败时，第二次调用cudaGetLastError应该返回cudaSuccess，当前代码的判断是严谨的，但并非报错的根源。代码本身的分配、释放流程符合CUDA规范。

3. 理解误区 #

不要默认cudaHostAlloc成功就意味着cudaFreeHost一定能成功。在Windows的WDDM环境中，GPU承担显示任务时，系统内存和页面文件的整体状态会影响CUDA的内存操作——哪怕是释放步骤，也可能因为系统层面的临时内存不足触发错误。

你遇到的案例中，自动分配的6GiB页面文件无法满足15GiB固定内存释放时的临时需求，手动调整到8GiB后，系统有足够的虚拟内存空间完成WDDM的清理操作，因此问题消失。

内容的提问来源于stack exchange，提问作者Tyson Hilmer