关于CUDA中同Block线程共享L1缓存等相关技术问题咨询

问题1：同一Block内的所有线程是否共享同一块L1缓存？ #

是的，同一线程块（Block）内的所有线程共享同一块L1缓存。线程块会被整体调度到单个流式多处理器（SM）上执行，每个SM配备专属的L1缓存，因此该Block内的所有线程都会使用这块SM上的L1缓存。另外需要说明的是，共享内存与L1缓存确实共用SM上的同一块物理存储资源——部分CUDA架构（比如Fermi）还允许调整二者的分配比例，比如配置为48KB共享内存+16KB L1，或16KB共享内存+48KB L1。

问题2：L1缓存是否用作全局内存数据的缓存？ #

是的，L1缓存的核心作用之一就是缓存全局内存的数据。当线程从全局内存加载数据时，如果目标数据已经存在于L1缓存中，就能直接从缓存读取，避免高延迟的全局内存访问。需要注意的是，L1缓存是按Warp粒度进行缓存操作的，且不同CUDA架构对L1的设计有所差异：比如Volta及后续架构更侧重L2缓存的优化，L1的缓存策略有所调整，但依然承担全局内存缓存的功能。

问题3：是否因为Block被调度到特定SM上，同一SM上的所有Warp共享同一块L1缓存？ #

完全正确。线程块会被分配到单个SM上运行，一个SM可以同时承载多个线程块（即多组Warp），这些所有Warp都会共享该SM的L1缓存。也就是说，不仅是同一Block内的Warp，同一SM上其他Block的Warp也会共用这块L1缓存。

内容的提问来源于stack exchange，提问作者zhongyuan chen