如何让GCC执行循环交换优化？为何指定编译选项后未生效？

问题描述 #

根据GCC手册，-floop-interchange选项可在Graphite框架外执行循环交换，能提升循环嵌套的缓存性能，还能为向量化等进一步优化创造条件——比如对矩阵乘法的三层循环交换内层循环顺序。但我用gcc -Ofast -mavx2 -mfma（-Ofast包含-O3，而-O3已包含-floop-interchange）编译测试代码时，发现matmul函数未被向量化，手动交换循环的matmul2却正常工作。我用的是x86-64架构的GCC 12.2.0，想知道是编译选项有误还是函数定义存在问题？

GCC手册参考示例 #

GCC手册关于-floop-interchange的说明：

-floop-interchange
      Perform loop interchange outside of graphite.  This flag can
      improve cache performance on loop nest and allow further loop
      optimizations, like vectorization, to take place.  For example, the
      loop

              for (int i = 0; i < N; i++)
                for (int j = 0; j < N; j++)
                  for (int k = 0; k < N; k++)
                    c[i][j] = c[i][j] + a[i][k]*b[k][j];

      is transformed to

              for (int i = 0; i < N; i++)
                for (int k = 0; k < N; k++)
                  for (int j = 0; j < N; j++)
                    c[i][j] = c[i][j] + a[i][k]*b[k][j];

测试代码 #

#define N 10000

void matmul(double c[N][N], double a[N][N], double b[N][N])
{
    for (int i = 0; i < N; i++)
      for (int j = 0; j < N; j++)
        for (int k = 0; k < N; k++)
          c[i][j] = c[i][j] + a[i][k]*b[k][j];
}

void matmul2(double c[N][N], double a[N][N], double b[N][N])
{
    for (int i = 0; i < N; i++)
      for (int k = 0; k < N; k++)
        for (int j = 0; j < N; j++)
          c[i][j] = c[i][j] + a[i][k]*b[k][j];
}

问题排查与分析 #

1. 编译选项无错误
   -Ofast确实包含-O3，而GCC 12.x的-O3默认启用-floop-interchange，-mavx2和-mfma也正确指定了目标架构的向量扩展指令集。

2. 循环交换未触发的核心原因：数组大小与优化阈值
   你定义的N=10000属于超大数组，单个数组占用内存达800MB（double占8字节，10000100008=800,000,000字节），远超普通CPU的L3缓存容量（通常为几MB到几十MB）。GCC的循环优化器会基于代码复杂度、内存访问成本等因素判断是否执行交换：面对这种超大内存访问模式，优化器可能判定循环交换的缓存收益不足以抵消开销，或因内存访问模式的不确定性放弃优化。

3. 验证方法

• 将N改为较小值（比如N=1000），重新编译后查看汇编代码，会发现matmul的循环会被自动交换并向量化。
• 使用gcc -Ofast -mavx2 -mfma -fopt-info-vec-all编译，查看向量化日志，能看到GCC明确说明未对matmul向量化的原因（通常会提到内存访问模式或循环优化阈值问题）。

4. 额外建议

• 对于超大矩阵乘法，手动调整循环顺序是更可靠的选择，同时结合分块循环（Blocking）可进一步优化缓存命中率。
• 可显式添加-floop-interchange选项（虽-O3已包含，但显式指定有时能强制优化器触发交换，不过针对超大数组可能仍无效）。

内容的提问来源于stack exchange，提问作者asdfldsfdfjjfddjf