VS2022链接VS2017/2019库时，浮点转无符号整数异常问题咨询

问题现象 #

一段包含浮点转无符号整数逻辑的代码，在VS2017编译的静态库中，链接到VS2017可执行文件时行为正常，但链接到VS2022可执行文件时出现转换异常：

• 输入的double值小于-1.0，截断后超出uint64_t取值范围，ISO C未定义此行为，但MSVC有明确的实现规则。
• 代码示例：

static uint64_t do_something_2(double f1)
{
    return (uint64_t)(f1 - 0.5);
}

uint32_t do_something(void)
{
    double f1 = -3406302.4613481420;
    uint32_t f2 = (uint32_t)do_something_2(f1);

    return f2;
}

• 异常场景：VS2022可执行文件链接VS2017静态库时，f2结果为0xffffffff，这是AVX-512指令vcvttsd2usi的输出（超出范围时返回全1）截断为32位的结果。
• 正常场景：用VS2022重新编译静态库，得到预期值0xffcc0622（等价于对整数-3406302做模运算后的转换结果）；给VS2017的makefile添加/arch=IA32禁用SSE2后重新编译库，链接VS2022可执行文件也能得到正常结果；VS2017库链接VS2017可执行文件、VS2019库链接VS2019可执行文件均正常，但VS2019库链接VS2022可执行文件也会出现异常。

原因解析 #

1. 指令集与代码生成策略的版本差异
   VS2017默认启用SSE2时，浮点转uint64_t的逻辑是调用标准库函数__dtoul3，这个函数的实现会对负数执行模2^64的运算，得到符合预期的无符号整数结果。但VS2022默认的目标指令集包含AVX-512，当链接旧库时，编译器会对do_something_2这类简单函数做跨模块内联优化，直接用硬件指令vcvttsd2usi替换原有的函数调用——而该指令在输入超出uint64_t范围时的行为是返回全1，和__dtoul3的模运算逻辑完全冲突。

2. 禁用SSE2后的行为一致性
   当给VS2017添加/arch=IA32参数时，编译器会生成基于x87浮点单元的代码，这类代码的转换逻辑和__dtoul3一致，且不会被VS2022的优化逻辑替换成AVX-512指令，因此跨版本链接时结果正常。

3. 微软“兼容”承诺的边界
   微软博客提到的VS2022与2017在浮点转整数上的兼容，是指同版本编译的代码遵循MSVC文档定义的行为，而非跨版本链接时的二进制兼容。旧版本库依赖的是特定版本的代码生成细节（函数调用实现），新版本编译器的优化策略会打破这种依赖，导致行为差异，这不属于文档承诺的兼容范畴。

内容的提问来源于stack exchange，提问作者Robert Joseph Dacunto