持续缓冲区流传输时Staging Buffer性能及内存属性问题咨询

以下结论针对顶点数据逐帧持续更新的Buffer Streaming场景，静态资源上传场景下Staging Buffer+纯设备本地内存的性能优势已有公论，不再赘述。

逐帧更新场景下Staging Buffer的性能价值与适用边界 #

Staging Buffer不是仅在host coherent内存不可用时才用的兜底方案，性能表现完全依赖硬件架构：

• 独立显卡（带独立GPU显存、CPU与GPU通过PCIe通信）：哪怕是逐帧更新的顶点数据，Staging方案多数情况下依旧有性能优势。
  独显上CPU可直接访问的host visible内存，要么是PCIe BAR窗口映射的小部分显存（老卡通常只有256MB以内，开Resizable BAR的新卡可覆盖全部显存），要么是普通系统内存。GPU访问这两类内存的带宽仅为纯设备本地显存的10%~30%，延迟高很多。每帧通过Staging做一次内存拷贝，把顶点数据搬到纯设备本地显存，GPU执行顶点着色、图元装配时的性能收益，通常能覆盖拷贝的开销——顶点数据量越大、顶点处理负载越高，收益越明显。
  仅当每帧更新的顶点数据量极小（比如单帧仅更新几十到几百个顶点）时，拷贝开销超过GPU读非本地内存的损耗，直接映射host coherent内存写入才更划算。
• 集成显卡/核显（CPU与GPU共享物理内存池）：Staging Buffer没有任何性能收益。这类硬件上的设备本地内存本身就是host可访问的，多做一次内存拷贝纯属多余开销。

host visible、host coherent、device local三类内存属性的兼容性 #

三类属性完全可以同时存在，不存在互斥限制。
三个属性的核心含义：

• HOST_VISIBLE_BIT：CPU可直接映射该内存的虚拟地址进行读写
• HOST_COHERENT_BIT：CPU写入该内存后无需手动执行缓存刷新（flush）操作，硬件自动保证CPU与GPU的缓存一致性，写完GPU即可读到最新数据
• DEVICE_LOCAL_BIT：该内存属于GPU访问优先级最高的内存池，带宽最高、访问延迟最低
  三属性共存的内存类型，是核显场景下的最优选择，也是独显开启Resizable BAR后可获得的最优流数据内存类型。绝大多数老款独显不支持三属性共存的内存覆盖全部显存，仅能提供小容量的这类内存供用户使用，这也是传统Staging中转方案存在的核心硬件原因。

两类使用路径下DEVICE_LOCAL属性的实际影响 #

路径1：直接映射host visible/host coherent缓冲区写入，不做Staging中转 #

• 内存带DEVICE_LOCAL_BIT：属于可直接被CPU映射写入的GPU本地显存，GPU访问该缓冲区的性能拉满。CPU写入性能依硬件不同有区别：核显上写入性能和普通系统内存一致；开启Resizable BAR的独显上写入性能接近系统内存；老款未开Resizable BAR的独显上，这类内存的CPU写入性能通常低于系统内存。
• 内存不带DEVICE_LOCAL_BIT：本质是分配在系统内存上的缓冲区，GPU需要跨PCIe总线访问，读带宽低、延迟高，顶点处理负载高时很容易成为渲染瓶颈；优势是CPU写入性能稳定，不受显存BAR空间限制，仅适合顶点数据量极小、或无可用可映射本地显存的场景。

路径2：使用Staging Buffer做中转，最终顶点数据存放在独立的顶点缓冲区 #

• Staging Buffer本身带不带DEVICE_LOCAL_BIT：Staging Buffer的唯一作用是给CPU映射写入，再通过传输队列把数据拷贝到最终顶点缓冲区。如果Staging Buffer分配在带DEVICE_LOCAL_BIT的可映射显存上，传输拷贝的速度会稍快，但如果可映射显存资源紧张，完全可以用不带DEVICE_LOCAL_BIT的系统内存做Staging，两者的拷贝开销差异极小，不会成为瓶颈。
• 最终顶点缓冲区带不带DEVICE_LOCAL_BIT：这是Staging方案能不能拿到性能收益的核心。只有最终顶点缓冲区分配在带DEVICE_LOCAL_BIT的不可映射纯本地显存上，Staging方案才有性能优势。如果最终顶点缓冲区不带DEVICE_LOCAL_BIT，多做一次Staging拷贝完全是无意义的额外开销，不如直接映射系统内存写入。

快速选型参考：

1. 先枚举物理设备的内存堆，查找同时支持HOST_VISIBLE、HOST_COHERENT、DEVICE_LOCAL三个属性的内存容量，如果容量足够放下所有逐帧更新的流顶点缓冲区，直接用这类内存，不需要Staging。
2. 如果可映射的本地显存容量不足，独显场景下用系统内存做Staging，每帧将更新的顶点数据拷贝到纯DEVICE_LOCAL属性的不可映射显存中的顶点缓冲区，性能远好于直接让GPU读系统内存。
3. 核显场景直接用三属性共存的内存，不要使用Staging做无意义的拷贝。

内容的提问来源于stack exchange，提问作者May