Apple M1 ARM架构下clang -O3优化模运算输出错误结果问题咨询

你认为代码不存在未定义行为的判断是错误的，问题核心出在modmul函数中对负数取绝对值的逻辑：

ubigint ua = a < 0 ? -a : a;

当传入的a为std::numeric_limits<bigint>::min()（即64位有符号整数最小值，值为-9223372036854775808）时，对该值执行-a操作会触发有符号整数溢出，C++标准明确规定有符号整数溢出属于未定义行为（UB）。

不同优化级别表现差异的原因 #

• -O1优化级别下clang未启用激进的整数溢出相关优化，编译器生成的指令刚好按补码取负的逻辑执行，得到了你预期的结果
• -O2/-O3优化级别下clang会基于「有符号整数不会发生溢出」的假设做优化，编译器判定a < 0时-a是合法的正有符号数，后续做类型转换和取模时触发了错误的常量折叠逻辑，最终得到了错误的0值

修复方案 #

要避免有符号整数溢出，正确将负的有符号整数转换为对应绝对值的无符号整数，应该利用无符号整数运算的明确定义修改转换逻辑：

void modmul(bigint a, bigint b, ubigint p) {
    // 先转无符号再处理取负，无符号取负是标准明确定义的行为
    ubigint ua = static_cast<ubigint>(a);
    if (a < 0) {
        ua = -ua;
    }
    ubigint ub = static_cast<ubigint>(b);
    if (b < 0) {
        ub = -ub;
    }

    ua %= p;
    ub %= p;

    std::cout << "ua: " << ua << '\n';
}

上述修改完全消除了未定义行为，在任意优化级别、任意平台下都能得到预期的2036结果。

跨平台表现差异的说明 #

其他平台或编译器没有复现问题，只是因为对应编译器的优化策略没有针对该UB场景做激进变换，不代表原代码逻辑合法。未定义行为的代码本身不具备可移植性，出现任何结果都符合标准要求。

内容的提问来源于stack exchange，提问作者vsoftco