You need to enable JavaScript to run this app. Python中如何解决浮点数运算精度错误问题
优惠活动
大模型
产品
解决方案
定价
更多

Python中如何解决浮点数运算精度错误问题

Python浮点数精度误差修复方案

以下是适配Python环境的可落地修复方法,计算器开发场景优先推荐使用decimal模块方案:

  • 方案1:使用decimal模块(高精度运算首选)
    该模块专门用于处理精确十进制浮点运算,可完全规避二进制浮点存储的天然误差,使用时需传入字符串格式的数值,避免提前引入精度损失:
    from decimal import Decimal, getcontext
    # 基础运算示例
    res = Decimal('0.1') + Decimal('0.2')
    print(res)
    # 输出结果:0.3
    # 可自定义全局计算精度,比如设置保留2位有效数字
    getcontext().prec = 2
    print(Decimal('0.12') + Decimal('0.23'))
    # 输出结果:0.35
    
  • 方案2:输出端做精度截断(仅适合展示类场景,无后续高精度运算需求时使用)
    可通过round函数或者格式化输出控制显示精度,快速修正视觉效果:
    # 方法1:round函数指定保留小数位数
    print(round(0.1 + 0.2, 1))
    # 输出:0.3
    # 方法2:格式化输出控制显示位数
    print(f"{0.1 + 0.2:.1f}")
    # 输出:0.3
    
  • 方案3:使用fractions模块做精确分数运算
    适合需要完全精确分数结果的场景,运算结果可按需转换为浮点或字符串格式:
    from fractions import Fraction
    res = Fraction('0.1') + Fraction('0.2')
    print(res)
    # 输出:3/10
    print(float(res))
    # 输出:0.3
    

内容的提问来源于stack exchange,提问作者Tiger Lion

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.16 11:24:01