_mm_ucomilt_ss编译时NaN行为差异及GCC 8.5异常原因问询

代码意图与预期行为 #

isfinite_sse42函数的核心目的是通过SSE4.2指令判断浮点数是否为有限值：利用_mm_ucomilt_ss比较std::abs(num)与正无穷的大小，若前者小于后者则返回true（表示有限），否则返回false。

根据Intel Intrinsics手册定义，_mm_ucomilt_ss(a, b)的行为规则为：

• 仅当a严格小于b时返回1
• 其他所有情况（包括a或b是NaN、a等于b、a大于b）返回0

因此当输入为NaN时，函数预期返回false（因为_mm_ucomilt_ss返回0，与1比较结果为假）。

GCC 8.5的汇编生成偏差 #

GCC 8.5对该函数生成的汇编代码存在逻辑偏差：

• 执行浮点比较的核心指令是ucomiss abs(x), Infinity
• 后续用setb指令将比较结果转为布尔值

而新版本GCC和Clang生成的汇编则使用seta指令，这是导致NaN处理行为差异的关键。

setb与seta对NaN的行为差异 #

要理解问题本质，需结合ucomiss指令的标志位设置规则：
当ucomiss遇到任意操作数为NaN时，会设置以下标志位：

• CF（进位标志）= 1
• ZF（零标志）= 1
• PF（奇偶标志）= 1

setb和seta的判定逻辑完全不同：

• setb：仅检查CF=1，满足则返回1（true）。NaN场景下CF=1，因此setb返回true，最终函数返回true，违背预期。
• seta：要求CF=0且ZF=0时才返回1（true）。NaN场景下CF=1，不满足条件，因此返回0（false），完全符合_mm_ucomilt_ss的手册定义。

问题根源 #

GCC 8.5在将_mm_ucomilt_ss的语义映射到汇编指令时出现了错误：
_mm_ucomilt_ss要求“仅当a严格小于b时返回1，其他所有情况（包括NaN）返回0”，但GCC 8.5错误地使用了setb——该指令的判定范围包含了“a < b”和“出现NaN/无有效比较结果”两种场景，无法精准匹配_mm_ucomilt_ss的语义。新版本GCC和Clang则修正了这个映射逻辑，使用seta实现了精准的语义对应。

内容的提问来源于stack exchange，提问作者jerryct