C语言中-O3优化下普通矩阵乘法耗时高于-O0的原因探究

• 内存访问模式的本质问题
  你的第一种乘法逻辑A[i][j] = Σ B[i][k] * C[k][j]，在C语言行优先内存布局下，C[k][j]属于按列跨步访问，每次访问的内存地址步长等于矩阵行数（1024），完全无法命中CPU各级缓存——每读取一个C的元素都要从主存加载，这是典型的内存密集型极端场景。

• -O0与-O3优化的不同影响

  • -O0模式：编译器几乎不做任何优化，循环逐次迭代执行，每次仅访问一个C的元素。虽然缓存失效频繁，但CPU的乱序执行单元可以在等待主存数据的间隙处理后续简单计算，内存请求压力相对分散，不会瞬间占满内存总线带宽和CPU缓存失效处理队列。
  • -O3模式：编译器会启用循环展开和SIMD向量化优化：
    • 循环展开后，单次迭代会处理多个k值，同时发起大量非连续内存访问请求，导致内存总线瞬间饱和，CPU缓存失效处理队列被塞满，后续指令只能等待，无法利用乱序执行的间隙。
    • SIMD向量化（如AVX/AVX2指令）会一次性加载多个C的元素（比如8个double），但这些元素在内存中相隔1024个位置，每个都不在同一缓存行，等于一次触发8次缓存失效，这种批量失效请求会让CPU陷入长时间等待，整体性能反而比-O0下的串行访问更差。

• 行-行乘法的对比验证
  第二种行-行乘法优化了内存访问模式，让所有矩阵访问都保持连续的行优先顺序，缓存命中率接近100%。此时-O3的向量化、循环展开能充分发挥CPU计算能力，将原本的内存瓶颈转化为计算瓶颈，因此性能提升幅度巨大。

内容的提问来源于stack exchange，提问作者yusfux