三阶双精度复数张量转置函数性能分析及疑问

测试背景回顾 #

在Intel Xeon Platinum 8168（Skylake）硬件上，使用Intel OneAPI 2022.1.0编译器（启用-O3等优化选项）完成基准测试：

• 24线程场景：DAXPY（102GB/s）、简单复制（101GB/s）；朴素转置（91GB/s）、优化转置（93GB/s）
• 单线程场景：DAXPY与复制均达20GB/s；两类转置均为9.3GB/s

针对你的疑问，解答如下：

1. 朴素转置函数为何性能表现如此优异？ #

• Intel -O3级优化会自动对代码进行深度打磨：包括循环展开、AVX-512向量化、寄存器重命名，以及针对Skylake缓存架构的自适应调整。如果三阶张量转置的原始循环结构中，最内层循环是连续内存访问，编译器能最大化掩盖内存访问延迟，提升带宽利用率。
• 双精度复数（16字节/元素）正好适配Skylake的AVX-512指令集：单条指令可并行处理4个复数（512位=64字节），只要编译器成功完成向量化，就能大幅提升数据吞吐量。
• 24线程下系统内存带宽接近饱和（参考函数达101-102GB/s），朴素转置能达到91GB/s，说明编译器已将朴素实现的内存访问模式优化至接近带宽极限——大概率自动调整了循环顺序或做了缓存分块，显著提升了缓存命中率。

2. 单线程下转置函数与参考函数的性能差距为何显著？ #

• DAXPY与简单复制均为连续内存访问模式：Copy是连续读+连续写，DAXPY是双数组连续读+连续写，完全匹配CPU预取器的工作逻辑，单线程下能充分利用Skylake的单线程内存带宽上限（约20GB/s，与测试结果一致）。
• 转置的内存访问存在跨步式非连续访问：无论三阶张量转置的维度如何交换，至少有一个维度的内存访问是非连续的（例如转置[i][j][k]到[j][i][k]时，原数组的j维度访问是跨步的）。这种模式会导致CPU预取器失效，缓存命中率骤降，内存访问延迟无法被掩盖。
• 单线程下无多线程并行来掩盖延迟，跨步访问的性能损耗被放大，最终转置性能远低于连续访问的参考函数。

关于Intel编译器是否对朴素转置做了循环分块优化的验证 #

Intel OneAPI的-O3优化默认包含循环分块（Loop Blocking/平铺）逻辑，尤其针对多维数组转置这类内存访问不友好的代码，编译器会自动分析循环依赖并生成分块代码，将大跨步访问拆分为小缓存块大小的循环，提升数据在L1/L2缓存中的复用率。

可通过以下方式验证：

• 编译时添加-qopt-report=5选项，生成优化报告，查看是否存在“Loop Blocking”相关的优化记录。
• 用-S选项生成汇编代码，检查是否出现嵌套的小循环块结构（而非原始的三重循环）。
• 禁用循环分块优化：添加-qno-loop-block（或-fno-loop-block）编译朴素转置，若性能大幅下降，则证明编译器确实自动做了分块优化。

内容的提问来源于stack exchange，提问作者Nitin Malapally