为何GCC不同优化级别下含NaN的复数乘法结果存在差异？

#include <math.h>
#include <complex.h>
#include <stdio.h>

int main()
{
    complex double A = CMPLX(-NAN, 0.0);
    complex double B = CMPLX(NAN, 0.0);

    printf("A = %e %e, B = %e %e\n", creal(A), cimag(A), creal(B), cimag(B));

    B += 0.5 * A;

    printf("A = %e %e, B = %e %e\n", creal(A), cimag(A), creal(B), cimag(B));
}

在amd64架构的Debian系统中，使用GCC 8.5.0、10.2.1及GCC 12编译运行上述代码，得到以下输出：

无优化编译时的输出 #

# cc -o test test.c -lm && ./test
A = -nan 0.000000e+00, B = nan 0.000000e+00
A = -nan 0.000000e+00, B = nan 0.000000e+00

-O1优化编译时的输出 #

# cc -O1 -o test test.c -lm && ./test
A = -nan 0.000000e+00, B = nan 0.000000e+00
A = -nan 0.000000e+00, B = -nan 0.000000e+00

我无法理解为何输出会存在差异。在FreeBSD系统中，无论使用哪个版本的GCC及编译选项，始终只会得到无优化时的输出。请问为何输出会随优化级别变化？这是编译器bug还是未定义行为？该如何避免此问题？

原因分析 #

这不是编译器bug，而是实现定义的行为，核心逻辑如下：

• C标准并未规定NaN（非数值）运算后的符号位取值，不同硬件浮点单元、数学库实现可自由选择结果NaN的符号。
• Debian的amd64环境中，GCC无优化时默认用x87浮点单元处理运算，开启-O1及以上优化后会切换到SSE/AVX指令集。x87和SSE/AVX对NaN运算的符号处理逻辑不同：x87倾向保留原有NaN的符号，而SSE/AVX可能继承操作数的负号（这里是-NAN的符号）。
• FreeBSD环境中，无论是否优化，GCC默认使用的浮点处理单元或数学库对NaN符号的处理逻辑一致，因此输出无差异。

避免方法 #

如果需要稳定的NaN符号输出，可采取以下方式：

• 强制统一浮点处理单元：用编译器选项-mfpmath=387强制GCC使用x87浮点单元，无论优化级别如何，输出都会一致：

  cc -O1 -mfpmath=387 -o test test.c -lm && ./test
  

• 显式处理NaN：在运算前检查是否为NaN，手动控制结果的符号或跳过运算逻辑，避免依赖硬件默认行为。
• 忽略NaN符号差异：如果业务逻辑不严格要求NaN的符号，可直接忽略这种差异——毕竟NaN本身代表无效数值，符号通常不影响逻辑正确性。

内容的提问来源于stack exchange，提问作者fuz