高精度浮点数相加异常：为何第二个加法结果丢失数值2？

问题代码（C++） #

int main()
{
    float x = 1.0f;
    float a = 0.0000000000000001f; //16位小数的浮点数
    
    std::cout<<std::fixed;
    
    std::cout<< std::setprecision(16) <<  a + a <<std::endl;
    std::cout<< std::setprecision(16) <<  x + a + a <<std::endl;
}

运行结果 #

0.0000000000000002 // 正常
1.0000000000000000 // 异常？？？

问题核心 #

为什么第二个加法运算丢失了极小值，结果不是预期的1.000000000000002？且Python中运行也会得到相同结果？

本质原因：IEEE 754浮点数的精度限制 #

这是浮点数存储的固有特性，和编程语言无关。所有现代语言的浮点数都遵循IEEE 754标准，其精度是相对的：数值越大，相邻两个可表示浮点数的间隔（ULP，单位最后位置）就越大，超出这个间隔的极小值会被直接舍入。

具体分析 #

1. 浮点数的有效位数限制

   • 单精度float（C++）：共24位有效二进制数（23位尾数位+1位隐含位），对应十进制约6-7位有效数字。
   • 双精度double（Python默认float）：共53位有效二进制数，对应十进制约15-17位有效数字。

2. 两种情况的差异

   • a + a正常输出：a = 1e-16是极小值，单精度可以近似表示它，两个a相加的结果2e-16仍在该数值的ULP范围内，因此能正确存储和输出。
   • x + a + a丢失精度：
     • 对于单精度float，1.0的ULP约为1.192e-7——也就是说，单精度无法区分1.0和1.0+1e-7之间的任何数值，2e-16远小于这个间隔，会被完全舍入，结果还是1.0。
     • Python中用双精度时，1.0的ULP约为2.22e-16，而2e-16略小于这个间隔，因此双精度也无法分辨1.0和1.0+2e-16，最终舍入为1.0。

解决方案 #

• 使用更高精度的数值类型：比如C++的long double，Python的decimal模块（可手动指定精度）。
• 避免直接比较浮点数相等，改用极小误差范围（如1e-9）进行判断。

内容的提问来源于stack exchange，提问作者Constantinos Glynos