针对MSVC的更快trunc()函数实现优化问询

你用C实现的xtrunc通过条件判断规避了大数转换问题，但分支跳转会影响CPU流水线效率。你之前尝试的汇编代码核心问题是误用了setp指令——setp检测的是奇偶标志位（PF），而非cvttsd2si转换溢出时设置的溢出标志位（OF）或进位标志位（CF）。

以下是修正后的无分支MASM汇编实现：

xtrunc proc
    ; 将xmm0中的double转换为int64_t，结果存入rax（溢出时设置CF/OF）
    cvttsd2si rax, xmm0
    ; 把转换后的整数转回double，存入xmm1
    cvtsi2sd xmm1, rax
    ; 无溢出时（OF=0），用xmm1替换xmm0；溢出时保留原xmm0
    cmovno xmm0, xmm1
    ret
xtrunc endp

核心逻辑说明： #

• cvttsd2si执行截断转换时，若double值超出int64_t的表示范围（绝对值≥2^{53，因为double的整数部分精确表示上限是2}53），会同时置位CF和OF；转换有效时两个标志位均清零。
• cmovno是条件移动指令，仅当OF=0时执行移动操作——由于cvttsd2si的溢出逻辑是CF与OF同步变化，因此只需检测OF即可判断转换是否有效。
• 这个实现完全消除了条件跳转，所有操作都是顺序执行的流水线友好指令，性能比带分支的C版本更优。

内容的提问来源于stack exchange，提问作者Edison von Myosotis