纹理内存带宽高于全局内存，为何使用后内存吞吐量反而提升？

首先明确核心前提：Texture内存是全局内存的只读硬件缓存扩展，配有专门的纹理采样单元，对二维模板这类空间局部性极强的访问模式做了针对性优化。

针对你观察到的「GPU耗时降低但DRAM吞吐量反而上升」的现象，拆解原因如下：

• GPU耗时降低的核心逻辑：二维热传导的模板计算存在大量重复的邻域数据访问，Texture缓存会将首次从全局内存读取的数据暂存，后续线程访问相同数据时直接从缓存取，彻底避免了重复的全局内存访问，大幅减少计算核心的内存等待时间，整体任务耗时自然下降。
• DRAM吞吐量提升的本质：这是内存控制器利用率被充分激活的结果。未使用Texture时，全局内存访问通常存在两个低效点：一是分散/未对齐的访问请求让内存控制器无法高效合并传输，带宽利用率被限制；二是因为全局内存延迟高，计算核心经常处于空闲等待状态，无法持续向内存控制器发起请求，导致内存控制器负载不足。而Texture的硬件采样单元会自动将分散的线程访问请求合并为连续的全局内存请求，同时缓存命中让计算核心能持续满负荷工作，不断向内存控制器发起有效请求，让内存控制器始终处于高效传输的高负载状态，最终表现为单位时间内DRAM的字节传输量（吞吐量）上升。

简单总结：原来内存控制器没吃饱，Texture帮它把访问请求梳理顺畅，同时让计算核心不用再等内存，既能加快任务完成速度，又让内存带宽被充分利用起来。

内容的提问来源于stack exchange，提问作者yolo_ML