现代CPU推测执行能否跨循环迭代？循环展开必要性及深度问询

示例C代码 #

void bar(void)
{
    for (int i = 0; i < 1024; i++)
        out[i] = foo(src[i]);
}

编译生成的汇编代码 #

bar():
       pushq   %rbx
       xorl    %ebx, %ebx
.L2:
       movl    src(%rbx), %edi
       addq    $4, %rbx
       call    foo(int)
       movl    %eax, out-4(%rbx)
       cmpq    $4096, %rbx
       jne     .L2
       popq    %rbx
       ret
src:
       .zero   400
out:
       .zero   400

问题与更新 #

• 初始问题：现代CPU是否会将下一次迭代与前一次迭代进行推测执行？若会，此处是否仍需进行循环展开？
• 更新后问题：现已确认推测执行可跨循环迭代，当前问题为：考虑循环计数i引入的依赖链，推测执行最多可跨多少个迭代？

解答 #

现代CPU的分支预测器能精准识别这类计数型循环，会主动推测执行后续迭代——毕竟这个循环不存在循环携带依赖，每一轮迭代的foo(src[i])计算完全独立，唯一的关联是循环计数器的递增操作。

即便CPU支持跨迭代推测执行，循环展开依然有优化价值。因为foo是函数调用，本身存在栈操作开销，且foo的执行可能带来延迟；循环展开后，CPU可以在等待当前foo返回的间隙，提前发起更多foo调用，借助超标量架构的并行能力隐藏延迟，提升整体执行效率。

针对更新后的问题：循环计数器的依赖链其实极短，每次迭代只是对寄存器rbx执行addq $4操作，这个指令延迟仅1周期，且CPU的寄存器重命名机制可以打破寄存器复用带来的表面依赖。所以推测执行的最大迭代数主要受限于CPU的重排序缓冲区（ROB）容量、分支预测的推测深度，以及foo执行时的资源占用情况。

主流现代CPU（比如Intel Skylake、AMD Zen系列）的ROB大小在200到500之间，如果foo是轻量函数，推测执行的迭代数可以接近ROB的上限；但如果foo执行周期长、占用大量执行单元，实际能并行推测的迭代数会被资源限制，远低于ROB的最大值。

内容的提问来源于stack exchange，提问作者Changbin Du