双终止指针循环模式是否属于编译器遗漏的优化场景？

在Clang -O3编译选项下，函数f1的代码如下：

typedef unsigned char u8;

u8 f1(u8* p, u8* end1, u8* end2)
{
    while (p < end1 && p < end2) {
        if (*p & 0x80)
            return 0xff;
        p++;
    }
    return 0x7f;
}

编译生成的汇编代码为：

f1:                                     # @f1
        cmp     rdi, rsi
        setae   cl
        cmp     rdi, rdx
        setae   r8b
        mov     al, 127
        or      r8b, cl
        jne     .LBB0_6
        inc     rdi
.LBB0_4:                                # =>This Inner Loop Header: Depth=1
        cmp     byte ptr [rdi - 1], 0
        js      .LBB0_5
        cmp     rdi, rsi
        jae     .LBB0_6
        lea     rcx, [rdi + 1]
        cmp     rdi, rdx
        mov     rdi, rcx
        jb      .LBB0_4
.LBB0_6:
        ret
.LBB0_5:
        mov     al, -1
        ret

而函数f2的代码为：

u8 f2(u8* p, u8* end1, u8* end2)
{
    if (end2 < end1)
        end1 = end2;
    while (p < end1) {
        if (*p & 0x80)
            return 0xff;
        p++;
    }
    return 0x7f;
}

编译生成的汇编代码为：

f2:                                     # @f2
        cmp     rdx, rsi
        cmovb   rsi, rdx
        mov     al, 127
        cmp     rsi, rdi
        jbe     .LBB1_4
.LBB1_2:                                # =>This Inner Loop Header: Depth=1
        cmp     byte ptr [rdi], 0
        js      .LBB1_3
        inc     rdi
        cmp     rdi, rsi
        jb      .LBB1_2
.LBB1_4:
        ret
.LBB1_3:
        mov     al, -1
        ret

可以看到f2的循环指令更少。使用GCC -O3编译时结果虽有不同，但逻辑类似，f1的循环指令同样更多。

疑问 #

• 是否存在边界情况导致编译器无法将f1优化为f2（即两者逻辑不等价）？
• 或是编译器为了保留源码到二进制的映射、让开发者获得更多控制权而做出的权衡？
• 尝试添加ASSUME(p <= end1 && p <= end2)这类假设，但编译结果无变化，这是为什么？

解答 #

首先，f1和f2的逻辑完全等价：两者都是遍历p到min(end1, end2)的区间，检查是否存在最高位为1的字节，存在则返回0xff，否则返回0x7f，不存在任何边界情况会导致两者行为不同。

编译器没有将f1优化为f2的形式，本质是编译器优化器的能力局限，而非逻辑等价性问题。

对于f1的循环条件p < end1 && p < end2，优化器需要识别出这等价于p < min(end1, end2)，并将循环外提为先计算最小边界再做单条件循环。虽然这是直观的变换，但编译器的优化规则中，这类逻辑到数学极值的转换并不总是被触发——尤其是当循环体内没有更复杂的依赖时，优化器可能不会投入资源完成这个等价转换。

添加ASSUME假设无效果的原因是，该假设只约束了初始状态下p不超过两个end指针，但并没有帮助优化器识别循环条件的等价极值形式，优化器依然会单独处理循环内的双重比较，无法将其合并为单条件。

另外，编译器不会为了保留源码映射或开发者控制权而放弃这种明显的优化——这类优化属于标准的代码变换，只要逻辑等价就会被执行，不存在所谓的“权衡”。

内容的提问来源于stack exchange，提问作者VainMan