Clang与GCC下_mm_max_ss的行为差异与跨编译器一致性实现

问题场景 #

开展基于Clang与GCC的交叉编译验证时，发现标量SSE内建函数_mm_max_ss对quiet NaN输入的处理逻辑存在编译器层面的输出差异，对齐测试代码如下：

__m128 a = _mm_set_ss(std::numeric_limits<float>::quiet_NaN());
__m128 b = _mm_set_ss(2.0f);
__m128 c = _mm_max_ss(a,b);
__m128 d = _mm_max_ss(b,a);

实际行为差异 #

原本预期_mm_max_ss的运算逻辑对齐std::max的语义：当输入包含quiet NaN时，优先返回非NaN操作数。实际两个编译器输出存在明显区别：

• Clang输出（匹配预期）：

  c: 2.000000 0.000000 0.000000 0.000000
  d: nan 0.000000 0.000000 0.000000
  

• GCC输出（不区分参数顺序，只要含NaN就返回NaN）：

  c: nan 0.000000 0.000000 0.000000
  d: nan 0.000000 0.000000 0.000000
  

已排查结论 #

• 同系列的批量向量版本内建函数_mm_max_ps在两个编译器下的行为完全符合预期，不存在上述差异
• 调整-ffast-math、-fno-fast-math编译参数，无法消除两个编译器对_mm_max_ss的行为差异

差异根源 #

x86硬件层面的MAXSS指令本身明确定义：当两个源操作数的最低标量分量包含quiet NaN时，无论参数顺序，指令统一返回NaN。
两个编译器对内建函数的映射策略不一致，最终导致行为差异：

• Clang在未开启快速数学优化时，没有直接将_mm_max_ss内建映射为硬件MAXSS指令，而是通过序列比较逻辑模拟了类std::max的NaN短路行为
• GCC则始终将_mm_max_ss内建直接映射为硬件MAXSS指令，完全遵循硬件语义

跨编译器统一实现方案 #

通过显式编写NaN检测、逻辑分支选择的内建指令序列，绕开编译器对_mm_max_ss的默认映射规则，实现两个编译器下完全一致的行为：

inline __m128 mm_max_ss_unified(__m128 a, __m128 b) {
    // 检测最低标量分量是否为quiet NaN
    const __m128 a_nan_mask = _mm_cmpunord_ss(a, a);
    const __m128 b_nan_mask = _mm_cmpunord_ss(b, b);
    // 构建NaN场景下的返回值：a为NaN则返回b，b为NaN则返回a
    const __m128 nan_fallback = _mm_or_ps(
        _mm_and_ps(a_nan_mask, b),
        _mm_and_ps(b_nan_mask, a)
    );
    // 无NaN场景下走硬件MAX指令完成数值比较
    const __m128 raw_max = _mm_max_ss(a, b);
    // 按NaN掩码混合两种场景的结果
    return _mm_blendv_ps(raw_max, nan_fallback, _mm_or_ps(a_nan_mask, b_nan_mask));
}

该实现全程使用基础SSE指令完成逻辑，无额外分支跳转，性能损耗可忽略；且因为所有逻辑都是显式指令序列，两个编译器生成的机器码完全等价，不存在语义偏移问题。

内容的提问来源于stack exchange，提问作者Biggy Smith