You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

为何0.1×100000无浮点数误差?Decimal却显误差?IEEE754精度疑问

浮点数运算与打印的三个现象解析

1. 为什么0.1 * 100000用%.22f打印看不到误差?

双精度浮点数里的0.1确实是近似值,实际存储的是0.1000000000000000055511151231257827021181583404541015625。但当它乘以100000时,IEEE754的运算规则会把结果舍入到最近的可表示双精度浮点数。

计算可知,这个近似0.1乘100000的精确值是10000.00000000000055511151231257827021181583404541015625,而10000.0是双精度能精确表示的数,且两者的差值小于10000这个量级下浮点数能区分的最小间隔的一半,所以运算结果会被舍入成10000.0。因此不管用多少位小数打印,结果都是全0的小数部分。

2. 为什么Decimal(0.1) * 100000能显示误差?

Decimal(0.1)做的是把双精度里存的那个近似0.1原封不动转换成高精度Decimal类型——也就是完整保留了0.1000000000000000055511151231257827021181583404541015625这个值,没有任何舍入。

当用Decimal类型乘100000时,运算在高精度环境下进行,不会像双精度那样舍入到最近可表示值,所以结果就是精确的10000.00000000000055511151231257827021181583404541015625,误差自然就显现出来了。

3. 为什么IEEE754双精度只有53位精度,却能打印55位十进制数?

IEEE754双精度的53位是二进制有效位数,转换成十进制大约对应15-17位有效数字——这意味着只有前15-17位数字是有实际精度意义的,后面的都是伪精度。

用%.55f打印0.1时,其实是把双精度浮点数的二进制表示完整转换成十进制展开。因为双精度的二进制存储是精确的,转换成十进制可以展开到很多位,但超出15-17位的部分只是转换过程中产生的冗余数字,并不代表浮点数真的有这么高的精度。比如0.1打印出的后面一长串数字,只是它的二进制近似值对应的十进制完整形式,不是真实0.1的精确值。

内容的提问来源于stack exchange,提问作者Nicola Sergio

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.06.13 10:04:54