Python浮点数精度问题：0.1与0.10比较返回False的解决方案

问题本质 #

你遇到的是二进制浮点数的存储精度误差导致的比较异常：

• Python原生float类型无法精确表示十进制小数（比如0.1），实际存储的是一个接近0.1但略大于0.1的二进制近似值（如你输出中的0.10000000000000000555...）。
• 从SQL获取的0.10是精确的十进制表示（可能以字符串或Decimal类型返回），没有二进制浮点数的误差，因此直接和Python生成的float比较时，会出现"Python的0.1大于SQL的0.1"的不符合预期结果。

你现有方法失效的原因 #

1. round()函数：对带误差的float执行round(...,2)后，仍然会保留微小的精度误差；而SQL返回的0.10经过round()后是精确的0.10，两者实际值仍有差异，导致比较返回False。
2. 直接用Decimal()转换float：Decimal(abs(dist))是从已经带误差的float转换而来，会把浮点数的误差带入Decimal对象，和SQL返回的精确Decimal比较自然还是不相等。

规范解决方案 #

1. 从源头避免浮点数转换 #

从SQL查询时，直接获取字符串或Decimal类型的数值，跳过float转换环节：

• 如果使用数据库驱动（如psycopg2），配置驱动返回Decimal类型；
• 如果用pandas读取数据，指定列的dtype为decimal.Decimal或object（保留字符串形式）。

示例代码：

from decimal import Decimal
import psycopg2
from psycopg2.extensions import register_adapter, AsIs

# 配置psycopg2返回Decimal类型
def adapt_decimal(d):
    return AsIs(str(d))
register_adapter(Decimal, adapt_decimal)

# 查询获取精确的Decimal值
conn = psycopg2.connect("your_db_connection_string")
cursor = conn.cursor()
cursor.execute("SELECT min_dbv FROM your_table")
t_min_dbv = cursor.fetchone()[0]  # 直接得到精确的Decimal(0.10)

# Python侧生成数值时，用字符串转Decimal，避免float误差
dist_decimal = Decimal(str(abs(dist)))  # 先转字符串再转Decimal
# 或者直接创建精确的Decimal值
target_value = Decimal('0.1')

2. 指定容差进行比较 #

如果必须使用float类型，通过**容差（epsilon）**判断两个数值是否足够接近，而非直接用<=比较：

epsilon = 1e-9  # 根据业务精度需求调整，比如保留2位小数用1e-4即可
# 比较两个数的差的绝对值是否小于容差
is_less_or_equal = abs(round(abs(dist), 2) - round(t.min_dbv, 2)) < epsilon
print(f"Test with epsilon: {is_less_or_equal}")

3. 用Decimal的quantize统一精度 #

使用Decimal的quantize方法指定精度后再比较，确保两边都按相同规则舍入：

from decimal import Decimal, ROUND_HALF_UP

# 指定保留2位小数的精度规则
precision = Decimal('0.01')
# 从字符串转Decimal（避免float误差），再按精度舍入
dist_rounded = Decimal(str(abs(dist))).quantize(precision, rounding=ROUND_HALF_UP)
min_dbv_rounded = Decimal(str(t.min_dbv)).quantize(precision, rounding=ROUND_HALF_UP)

print(f"Test with Decimal quantize: {dist_rounded <= min_dbv_rounded}")

你的测试案例解释 #

• Test1：round(0.10,2)和round(abs(dist),2)都是从float生成的，两者的精度误差一致，因此比较返回True；
• Test2：t.min_dbv是SQL返回的精确值，round后是无误差的0.10；而round(abs(dist),2)是带误差的近似值，实际值略大，因此<=返回False；
• Test3：Decimal(abs(dist))继承了float的误差，和SQL返回的精确Decimal比较，自然返回False。

内容的提问来源于stack exchange，提问作者Cubiod