Python 3.6中3.3累加无法得到9.9的错误求助
解决浮点数相加的精度误差问题
嘿,这个问题其实是计算机存储浮点数的特性导致的,太常见了!
为什么会出现这个情况?
计算机是用二进制来存储浮点数的,但很多十进制小数(比如3.3)转成二进制后是无限循环的近似值,没办法精确存储。当你把三个近似值加起来时,微小的误差就被放大,最终得到9.899999999999999这种看起来“不对”的结果。
几种实用的解决方法:
方法1:使用十进制精度库(推荐对精度要求高的场景)
很多编程语言都提供了专门处理十进制精确计算的工具,比如Python里的decimal模块,它能按照十进制的规则来计算,避免二进制转换的误差:from decimal import Decimal, getcontext # 设置精度,这里我们只需要小数点后1位的精度就够 getcontext().prec = 2 num = Decimal('3.3') # 注意要用字符串传入,避免提前转成浮点数引入误差 result = num + num + num print(result) # 输出 9.9方法2:转成整数计算(适合小数位数固定的简单场景)
既然小数位是固定的,我们可以先把数放大成整数,计算完再缩小回去,绕开浮点数的精度问题:num = 3.3 # 先乘10转成整数33,三个相加是99,再除以10得到9.9 result = (num * 10 * 3) / 10 print(result) # 输出 9.9方法3:输出时四舍五入(适合仅需显示正确结果的场景)
如果只是最终显示需要正确的数值,不需要中间计算完全精确,可以直接对结果做四舍五入处理:result = 3.3 + 3.3 + 3.3 print(round(result, 1)) # 输出 9.9
你可以根据自己的实际场景选择最合适的方法哦!
内容的提问来源于stack exchange,提问作者L.And
相关产品推荐
相关产品推荐

