NodeJS中Number.parseFloat计算精度异常的原因咨询
浮点数精度问题解析:37.12*100结果异常的原因
在NodeJS 14.15.0中执行以下代码时,会出现不符合预期的结果:
> Number.parseFloat("37.12") 37.12 > Number.parseFloat("37.12")*100 3711.9999999999995
这个现象的核心原因是JavaScript(包括Node.js)采用的IEEE 754双精度浮点数的存储限制:
- 64位双精度浮点数无法精确表示所有十进制小数,部分十进制小数转换成二进制时会变成无限循环的小数,只能以近似值存储。
- 十进制的
37.12就是这类无法精确表示的数,虽然直接打印时JS会自动将近似值转换为易读的37.12显示,但实际存储的数值略小于真实的37.12。 - 当这个近似值乘以100时,原本的精度误差被放大,最终输出结果就成了
3711.9999999999995而非预期的3712。
你可以通过打印该数的二进制形式验证这一点:
const num = Number.parseFloat("37.12"); console.log(num.toString(2)); // 输出的是无限循环的二进制小数
内容的提问来源于stack exchange,提问作者Shibasis Sengupta
相关产品推荐
相关产品推荐

