CUDA中mapped memory与managed memory的区别是什么？

基础定义对应 #

你提到的两类内存分别对应两种完全不同的CUDA内存模型：

• 由cudaHostAlloc(&foo, size, cudaHostAllocMapped)分配的是固定映射主机内存，属于CUDA零拷贝内存的一种
• 由cudaMallocManaged(&foo, size)分配的是统一托管内存，属于CUDA Unified Memory模型的核心实现

核心差异点 #

• 内存物理位置与迁移逻辑
  固定映射内存的物理页全程固定在主机RAM中，属于永久页锁定内存，不会被操作系统换页，也不会向设备显存迁移。设备访问这块内存时，永远通过PCIe总线直接读取主机端的物理内存，即使多次访问也不会缓存到设备本地，带宽、延迟性能远低于设备显存。
  统一托管内存的物理位置是动态的：初始无绑定，哪边（主机/设备）触发访问就按需迁移到对应物理内存中，迁移后后续访问直接访问本地内存，性能和手动分配的设备显存/主机内存一致，支持超出单卡显存容量的超量分配（只要系统总内存足够）。
• 页锁定属性差异
  你猜测的cudaMallocManaged分配内存的页锁定属性不是永久存在的：只有当托管内存页当前驻留在主机侧、需要和设备进行数据传输时，才会被临时标记为页锁定，传输完成/迁移到设备后就会解除锁定，不会长期占用主机的页锁定内存配额。而固定映射内存从分配到释放全程都是页锁定状态，大量分配会挤占主机可用内存，影响系统本身的运行性能。
• 使用成本与性能取舍
  固定映射内存没有额外的页错误处理和迁移开销，适合小数据量、单次传输、无需设备反复访问的场景（比如小批量控制参数传递），但需要开发者手动保证访问的合理性，性能上限低。
  统一托管内存由驱动自动优化数据位置，不用开发者手动编写cudaMemcpy代码，开发效率高，只要访问模式不是极端的随机跨设备跳转，性能和手动管理的内存基本一致，是现在CUDA官方更推荐的通用内存分配方案。

内容的提问来源于stack exchange，提问作者QuaternionsRock