SQL Server中不同运算顺序返回不一致结果的精度问题咨询

SQL Server对decimal类型的四则运算有一套固定的精度自动推导规则，每一步运算结束后都会立刻按规则对中间结果做舍入或截断，不会全程使用高精度缓存中间值，所以不同的运算顺序会因为中间步骤的舍入时机、保留小数位不同，最终出现结果偏差。

官方定义的decimal运算精度推导规则如下：
假设两个参与运算的decimal类型分别为decimal(p1,s1)、decimal(p2,s2)：

• 乘法运算后，结果精度为 p1 + p2 + 1，小数位为 s1 + s2
• 除法运算后，结果精度为 p1 - s1 + s2 + max(6, s1 + p2 + 1)，小数位为 max(6, s1 - p2 + s2)

如果运算后的实际值小数位超出推导得到的小数位，SQL Server会自动截断超出部分或四舍五入，再进入下一步运算。你遇到的案例中，两种运算顺序的中间步骤小数位保留规则不一样，就出现了1e-6级别的结果差。

• 统一转换为高精度decimal运算：提前将所有参与运算的字段显式转换为decimal(38,20)这类高精度类型，确保中间运算的小数位足够容纳结果，避免中途隐式截断。参考写法：

SELECT CAST(Fee AS DECIMAL(38,20)) * Q1 / Q2 * CAST(Rate AS DECIMAL(38,20)) Result1
    , CAST(Rate AS DECIMAL(38,20)) * Fee * Q1 / Q2 Result2
FROM TTT

• 调整运算顺序降低精度损失：优先执行所有乘法运算放大数值，最后统一做除法，尽可能减少中间步骤的精度丢失。
• 手动控制全链路舍入规则：每一步运算后显式调用ROUND函数指定保留的小数位，统一所有步骤的舍入逻辑，规避SQL Server默认隐式舍入的不可控问题。
• 按需切换数值类型：如果业务允许微小的精度误差，可以将运算字段转换为float类型计算，float的动态精度机制可以大幅降低不同运算顺序的结果差异，但注意该类型为近似存储，不适用财务、计费等对精度要求极高的场景。

内容的提问来源于stack exchange，提问作者Paul Zhang