Python中如何解决浮点数运算精度错误问题
Python浮点数精度误差修复方案
以下是适配Python环境的可落地修复方法,计算器开发场景优先推荐使用decimal模块方案:
- 方案1:使用decimal模块(高精度运算首选)
该模块专门用于处理精确十进制浮点运算,可完全规避二进制浮点存储的天然误差,使用时需传入字符串格式的数值,避免提前引入精度损失:from decimal import Decimal, getcontext # 基础运算示例 res = Decimal('0.1') + Decimal('0.2') print(res) # 输出结果:0.3 # 可自定义全局计算精度,比如设置保留2位有效数字 getcontext().prec = 2 print(Decimal('0.12') + Decimal('0.23')) # 输出结果:0.35 - 方案2:输出端做精度截断(仅适合展示类场景,无后续高精度运算需求时使用)
可通过round函数或者格式化输出控制显示精度,快速修正视觉效果:# 方法1:round函数指定保留小数位数 print(round(0.1 + 0.2, 1)) # 输出:0.3 # 方法2:格式化输出控制显示位数 print(f"{0.1 + 0.2:.1f}") # 输出:0.3 - 方案3:使用fractions模块做精确分数运算
适合需要完全精确分数结果的场景,运算结果可按需转换为浮点或字符串格式:from fractions import Fraction res = Fraction('0.1') + Fraction('0.2') print(res) # 输出:3/10 print(float(res)) # 输出:0.3
内容的提问来源于stack exchange,提问作者Tiger Lion
相关产品推荐
相关产品推荐

