Python中大数乘法结果为何与计算器不符?
Python计算结果偏差的原因
问题出在浮点数的精度限制上:
- 你用的
1.0是64位双精度浮点数,这类浮点数的有效十进制数字最多只能保留15-17位。 - 你要计算的超大整数有35位,远超过浮点数的有效位数范围。当Python执行
1.0 * 超大整数时,会先把这个超大整数转换成浮点数,转换过程中无法精确存储所有位数,只能保留前17位左右的有效数字,后面的位数会被舍入近似。 - 最终得到的
1.729999101999911e+34是浮点数的近似值,而计算器如果采用了整数运算或者更高精度的数值类型,就能得到精确结果。
如果想要精确计算这个乘积,直接用Python的整数运算即可——Python原生支持任意精度的整数,比如执行17299991019999108999910899991119999 * 1,会得到完全精确的整数结果。
内容的提问来源于stack exchange,提问作者user19345539
相关产品推荐
相关产品推荐

