为何手动拷贝后cudaMallocManaged内存的CUDA Kernel仍性能大幅下降？

• 页表访问检查开销：cudaMallocManaged分配的统一内存，哪怕手动完成了H2D拷贝，核函数访问时仍会触发CUDA运行时的页表校验，确认内存页是否已在设备端。这个额外的检查步骤会产生固定开销，而cudaMalloc分配的纯设备内存是直接映射到设备地址空间，不存在该校验流程。
• 内存属性与缓存行为差异：统一内存默认的内存类型、缓存策略可能和纯设备内存不同。比如部分架构下，统一内存页的访问会经过额外的内存控制器层级，或者缓存命中率低于纯设备内存，即便数据已在设备，也会因访问路径差异增加延迟。
• 隐式同步与运行时内部操作：cudaMallocManaged的运行时在核函数执行前后可能存在隐式同步操作，用于维护内存页状态（比如标记页为设备驻留、更新页表），这些额外同步步骤会拉长整体耗时，而cudaMalloc的流程没有这类操作。
• 编译器优化策略区别：编译器对两种内存的访问优化程度有差异。对于cudaMalloc的设备内存，编译器可以做更激进的优化（比如内存合并访问优化、寄存器缓存优化）；而统一内存的访问因为要兼容主机端可访问性，编译器可能限制某些优化，导致核函数执行效率下降。

内容的提问来源于stack exchange，提问作者Huy Le