GCC 7.1及更高版本指针比较是否存在无效优化？

问题现象 #

在GCC 7.1及更高版本中，当编译优化级别设为-O1及以上时，会出现指针相等性判断的异常行为：

• 直接通过跨数组指针算术生成的指针，即使打印出的内存地址完全相同，相等性比较结果仍为0
• 将指针算术结果存入临时指针变量后再进行比较，结果则符合预期（返回1）

该问题仅在GCC 7.1+中出现，MSVC、Clang及GCC 6.5均无此异常。

复现代码 #

#include <stdio.h>
#include <stddef.h>

int main() {
    int test1[3] = {0};
    int test2[3] = {0};
    ptrdiff_t diff = test2 - test1;
    int *test3 = test1 + diff;

    printf("%p == %p = %d\n", test1 + diff, test2, test1 + diff == test2);
    printf("%p == %p = %d\n", test1 + diff + 2, test2 + 2, test1 + diff + 2 == test2 + 2);
    printf("%p == %p = %d\n", test3 + 2, test2 + 2, test3 + 2 == test2 + 2);

    printf("\n\n");

    printf("%p == %p = %d\n", &(test1 + diff)[0], &test2[0], &(test1 + diff)[0] == &test2[0]);
    printf("%p == %p = %d\n", &(test1 + diff)[2], &test2[2], &(test1 + diff)[2] == &test2[2]);
    printf("%p == %p = %d\n", &test3[2], &test2[2], &test3[2] == &test2[2]);
    
    return 0;
}

问题根源 #

这是GCC 7.x及后续版本的指针优化逻辑导致的，核心在于C标准对指针算术的约束：

1. 未定义行为（UB）的触发：C标准明确规定，只有指向同一数组（或数组末尾后一个位置）的指针之间的算术运算才是合法的。test1和test2是两个独立数组，test2 - test1属于未定义行为——虽然多数平台会计算出内存地址的偏移量，但编译器不保证后续基于该偏移量的操作符合预期。
2. 优化假设的冲突：GCC 7.1+在优化时，会基于“合法指针运算不会跨数组”的假设进行代码生成。它认为test1 + diff本质上仍属于test1数组的指针范围（即使实际地址指向test2），因此直接比较test1 + diff + 2和test2 + 2时，编译器会直接判定两者不可能相等（分属不同数组），从而生成返回0的代码，忽略了实际地址相同的事实。
3. 临时指针的规避作用：将test1 + diff存入临时指针test3后，编译器无法再追踪test3的原始数组归属，只能按照实际内存地址进行比较，因此结果符合预期。

解决方案 #

1. 改用整数类型计算地址偏移：严格遵循C标准，使用uintptr_t（需包含<stdint.h>）来计算地址偏移，避免触发未定义行为：

   #include <stdint.h>
   // ...
   uintptr_t diff = (uintptr_t)test2 - (uintptr_t)test1;
   int *test3 = (int*)((uintptr_t)test1 + diff);
   

   这种方式基于整数运算，不属于指针算术范畴，编译器不会进行数组归属的假设优化。
2. 调整编译选项：如果必须保留原有代码结构，可以通过编译选项禁用相关优化，例如添加-fno-strict-overflow，但这可能影响整体编译性能，仅作为临时方案。
3. 升级GCC版本：后续GCC版本（如GCC 10及以上）修复了该优化逻辑中的极端场景，升级编译器可解决问题。

内容的提问来源于stack exchange，提问作者S Schulze