Python如何正确返回普通格式大数?大数除法计算精度异常如何解决
问题根因
Python中使用/运算符做除法时,无论操作数是不是整数,返回结果都是双精度浮点数(float类型)。双精度浮点数的整数精确表示上限为2^53(约9e15),你的变量x值为1e30,远超出该精度阈值,除法运算过程中会出现精度截断,最终转int得到的结果自然和预期不符。
问题复现:
>>> x=1000000000000000000000000000000 >>> int(1*x/100) # 尝试取x的1% 9999999999999999583119736832 # 精度损失后的错误输出
解决方案
直接使用Python的整数除法运算符//完成运算即可。Python原生int类型支持任意精度的整数运算,不存在浮点数的精度上限问题,运算结果完全准确:
>>> x = 1000000000000000000000000000000 >>> x // 100 10000000000000000000000000000
补充注意
- 如果你的业务逻辑必须保留浮点运算过程,可以引入标准库
decimal做高精度十进制运算,但针对当前取1%的场景,整数除法是性能最高、写法最简洁的方案。 - Python的
//运算符规则为向下取整,如果涉及负数运算,需要根据你的业务取整规则判断是否需要额外调整。
内容的提问来源于stack exchange,提问作者dape11
相关产品推荐
相关产品推荐

