为何固定执行2次的while循环展开后性能下降25%？

代码背景 #

原始循环实现的normal函数：

pub fn normal(&mut self, book: &Book) {
  self.expand(book, ROOT);
  while self.rdex.len() > 0 {
    self.reduce(book);
    self.expand(book, ROOT);
  }
}

在特定测试中该循环恰好执行2次，因此手动展开为：

pub fn normal(&mut self, book: &Book) {
  self.expand(book, ROOT);
  self.reduce(book);
  self.expand(book, ROOT);
  self.reduce(book);
  self.expand(book, ROOT);
}

手动展开后性能下降了25%，已尝试通过inline-never和inline-always调整内联行为，也排除了寄存器溢出的可能，以下是其他可能的诱因：

• 指令缓存（ICache）失效：手动展开后代码体积增大，若超出CPU指令缓存的容纳范围，会导致更多缓存未命中，额外增加内存访问开销。循环版本重复执行同一段指令，能更高效地利用缓存。
• 流水线调度与停顿：循环版本中，CPU分支预测器可快速学习到循环退出逻辑（执行2次后退出），提前调度指令；手动展开后无分支，但连续调用expand和reduce可能带来数据依赖——后一次调用依赖前一次的执行结果，CPU无法通过循环预测提前调度，引发更多流水线停顿。
• 编译器优化逻辑差异：编译器对循环代码有针对性优化（如循环展开、循环不变量外提等）；手动展开后，编译器可能无法识别重复操作的关联性，无法进行等价优化，比如无法合并内存操作、复用寄存器中间值。
• 数据缓存（DCache）命中率下降：手动展开后，连续函数调用可能改变内存访问的局部性——栈上临时变量生命周期延长、内存访问模式更分散，导致数据缓存命中率降低，增加内存访问延迟。
• 副作用处理的额外开销：若expand或reduce存在隐含副作用（如修改self状态），循环版本中编译器可通过循环分析延迟内存写操作；手动展开后，编译器可能强制每次调用立即同步内存状态，引入额外的内存屏障或写回操作，增加开销。

内容的提问来源于stack exchange，提问作者MaiaVictor