分支预测与未定义行为(UB)：CPU预测失败的处理及相关技术疑问

问题背景 #

我对分支预测有一定了解：它是CPU层面的操作，与编译无关。尽管可通过C++20的[[likely]]和[[unlikely]]属性告知编译器分支可能性，但这与CPU执行的分支预测相互独立。

我知道带退出条件的循环中，CPU会预测退出条件不成立，提前执行循环内操作以提升性能。但我有两个疑问：

1. 当CPU分支预测错误时，已执行的操作会被丢弃、回滚还是如何处理？
2. 在第二个代码示例中，若CPU预测malloc分配成功并提前执行了解引用空指针的操作（属于未定义行为UB），此时CPU无法回滚该操作，会发生什么？

代码示例 #

#include <stdlib.h>

#define VERSION 1

#if VERSION == 1
int main() {
    size_t sum = 0ull;

    for (size_t i = 0ull, max = 1'000ull; i < max;  ++i) {
        if (i < (max / 2)) {
            sum += 2 * i;
        }
        else {
            sum += i;
        }
    }

    return 0;
}

#else
int main() {
    int* ptr = NULL;

    for (size_t i = 0ull, max = 1'000'000ull; i < max; ++i) {
        ptr = (int*)malloc((sizeof * ptr) * 1'000ull);

        if (ptr) {
            *ptr = 1234;
        }

        // free(ptr)
    }

    return 0;
}
#endif

注：分支预测是CPU的任务，未定义行为(UB)在C和C中均存在，问题不局限于特定语言，若语言有差异，更关注C场景。

解答 #

基础理解确认 #

你的核心认知是正确的：

• 分支预测是CPU硬件机制，与编译器优化（包括C++20的[[likely]]/[[unlikely]]提示）相互独立——后者是给编译器提供分支概率信息以调整机器码布局，不影响CPU运行时的预测逻辑。
• 循环的分支预测通常默认倾向“继续执行”，通过投机执行提前处理循环内指令，提升流水线效率。

疑问1：分支预测错误时的操作处理 #

CPU的投机执行依赖寄存器重命名和**乱序执行缓冲区（ROB）**实现，所有投机执行的结果都会暂存在ROB中，不会直接修改CPU的可见状态（比如通用寄存器、内存的持久化状态）：

• 当分支方向被验证为错误时，CPU会立即清空ROB中所有未提交的投机执行结果，然后从分支的正确路径重新取指、执行。
• 这个过程对软件完全透明，相当于那些投机执行的操作从未被执行过，不会留下任何错误痕迹。

疑问2：投机执行空指针解引用的后果 #

首先纠正一个误解：CPU的投机执行操作如果触发硬件异常（比如空指针解引用的页错误），只要该操作未提交到可见状态，CPU是可以完全回滚的。

针对你给出的第二个代码示例：

• 当CPU预测ptr非空并投机执行*ptr = 1234时，这个写操作只会暂存在ROB或CPU缓存的临时区域，不会真正写入主存或修改可见的程序状态。
• 若后续验证发现ptr是空指针，CPU会直接丢弃所有相关的投机执行结果，不会触发实际的硬件异常，程序会按照正确分支（跳过写操作）继续运行。

但需要重点注意编译器层面的未定义行为优化：
C++标准规定空指针解引用属于未定义行为，编译器有权基于此做任何激进优化——比如直接移除if (ptr)的判断，强制执行*ptr = 1234，或者完全重排代码逻辑。这种情况下，不管CPU的分支预测如何，程序行为都会完全不可控，可能直接崩溃、产生随机结果，甚至在极端场景下执行异常代码。

内容的提问来源于stack exchange，提问作者Joel