为何GCC 13.1 -O3未优化test2为恒返回false，却正确优化test1？

在x86-64架构下使用GCC 13.1编译器并开启-O3优化时，test1函数被直接优化为始终返回false，对应的汇编仅返回0；但test2函数未被优化为预期的恒返回false，仍保留了完整的比较逻辑汇编代码。

两个函数的代码如下：

bool test1(int a, int b) {
    return (a >= b + 2) && (a < b + 1);
}

bool test2(int a, int b){
    return (a >= b + 3) && (a < b + 2);
}

对应的汇编代码：
test1的汇编：

test1(int, int):
        xor     eax, eax
        ret

test2的汇编：

test2(int, int):
        lea     edx, [rsi+2]
        xor     eax, eax
        cmp     edx, edi
        jge     .L3
        add     esi, 1
        cmp     esi, edi
        setge   al
.L3:
        ret

核心差异：整数溢出导致的逻辑不确定性 #

• test1的逻辑推导：
  从数学逻辑上看，b+2必然大于b+1，一个整数a不可能同时满足a >= 更大的数且a < 更小的数。即使考虑整数溢出，b+2和b+1的溢出结果依然保持b+2的溢出值比b+1的溢出值大1（有符号整数溢出为环绕式），因此无论是否溢出，a都不可能同时满足两个条件。编译器可以安全推导test1恒返回false，直接生成返回0的汇编。

• test2的逻辑不确定性：
  当b的值足够大时，b+3会触发有符号整数溢出（C++标准中这属于未定义行为，但编译器不会假设溢出不会发生）。以32位int为例，当b = INT_MAX - 2（即2147483645）时：

  • b+3 = 2147483648，溢出后变为-2147483648（INT_MIN）
  • b+2 = 2147483647（INT_MAX）
    此时如果a = INT_MIN，那么a >= b+3（-2147483648 >= -2147483648）为真，a < b+2（-2147483648 < 2147483647）也为真，整个表达式返回true。

  由于存在这样的溢出场景让表达式结果为真，编译器无法确定test2恒返回false，因此必须保留比较逻辑来处理所有可能的输入情况。

内容的提问来源于stack exchange，提问作者Hansol Shin