You need to enable JavaScript to run this app.
最新活动
大模型
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

为何Java处理浮点数精度问题表现异常?强制转float后误差消失?

为什么Java中强制转float后0.1+0.2的精度误差“消失”了?

这个问题其实挺有意思的,核心不是误差真的消失了,而是不同精度的浮点数对近似值的舍入和显示逻辑不一样——咱们一步步拆解:

首先得明确:0.10.2本身在二进制浮点数体系里(不管是float还是double)都是无法精确表示的,它们都是真实值的近似值,只不过float(单精度)和double(双精度)的近似粒度不同:

  • double有52位尾数位,能提供更高的精度,近似值更接近真实值;
  • float只有23位尾数位,近似值的“粗糙程度”更高。

先看double的情况

当你直接计算0.1 + 0.2时,这里的0.10.2都是double类型:

  • 0.1的double近似值是0.10000000000000000555...(比真实0.1略大);
  • 0.2的double近似值是0.2000000000000000111...(也比真实0.2略大);
    两者相加后得到的结果是0.3000000000000000166...,这个值和double能表示的最接近0.3的近似值(0.2999999999999999888...)并不相等,所以当Java把这个double值转换成字符串输出时,就会显示出那个明显的误差0.30000000000000004

再看float的情况

当你把0.10.2强制转成float时:

  • 0.1的float近似值是0.10000000149...,比真实0.1的偏差比double版本更大;
  • 0.2的float近似值是0.20000000298...,偏差同样更大;
    两者相加后得到的结果是0.30000000447...,这个值是float能表示的一个近似值。而Java在把float值转换成字符串输出时,会根据float的精度进行合理的截断——这个值和0.3的偏差在float的精度范围内足够小,所以输出时就被格式化为了0.3,看起来像是“误差消失”了。

关键总结

这本质上是不同精度浮点数的近似舍入刚好在这个特定场景下产生了不同的显示结果

  • double的精度更高,它的误差能被输出逻辑捕捉到,所以显示了长串的小数;
  • float的精度更低,相加后的结果和0.3的偏差被输出逻辑“掩盖”了,但实际上它的绝对误差比double版本更大。

内容的提问来源于stack exchange,提问作者Rien Bijl

火山引擎 最新活动