为何看似更慢的C循环在-O2编译下反而比另一种实现快两倍？

你在实现R风格三值布尔（false=0、true=1、na=INT_MIN）的向量化&&操作时，遇到了和预期相反的性能结果：Clang -O2编译下，看似会减少v_x访问的Option2反而比Option1慢两倍，核心原因集中在内存访问模式和编译器优化空间两个层面：

1. 缓存预取的效率差异 #

Option1的循环中，每次迭代都会连续读取v_out[i]和v_x[i]，这种严格线性的内存访问模式完美契合CPU的硬件预取器工作机制。预取器会提前把后续连续的内存块加载到L1/L2缓存中，几乎不会出现缓存miss。而Option2中，当elt_out == 0时会跳过v_x[i]的读取，导致v_x的访问变成跳跃式的非连续地址，预取器无法预测后续要访问的内存位置，缓存命中率急剧下降。现代CPU中，一次缓存miss的延迟是几十到上百个时钟周期，远大于计算本身的开销，这是性能差距的主要来源。

2. 编译器向量化优化的可能性 #

Clang -O2会主动尝试SIMD向量化优化，用AVX/AVX2等指令一次性处理多个int元素，大幅提升循环效率。Option1的内存访问和分支逻辑完全规则，每个迭代的操作一致，编译器可以轻松将其转化为SIMD指令。但Option2中的continue打破了循环的规律性：部分迭代读取v_x，部分不读，这种不一致的操作模式让编译器无法生成有效的SIMD代码，只能保留串行执行的逻辑，自然无法获得向量化带来的并行加速。

3. 分支与指令流水线的影响 #

Option1的分支虽然多，但都是简单的数值判断，CPU的分支预测器可以精准预测分支走向，不会造成流水线清空。而Option2中的continue分支，若elt_out == 0的比例较高，分支预测错误的概率会上升，每次错误都会导致指令流水线停滞清空，进一步放大性能差距。

验证建议 #

• 用更大的数组测试，缓存效应会更显著；
• 用clang -O2 -S生成汇编代码，对比两个版本：Option1会包含大量SIMD指令（如vmovdqa、vtestps等），而Option2的代码会更零散，无向量化痕迹。

内容的提问来源于stack exchange，提问作者Davis Vaughan