浮点数按指定基数取整后出现冗余小数的原因及处理咨询

原因 #

这是二进制浮点数的精度限制导致的：计算机底层用二进制存储浮点数，但像0.01这类十进制小数，无法转换成有限长度的二进制小数，只能用近似值表示。当你执行number/base和后续乘法时，这些微小的近似误差会累积，最终得到的结果是12.12的二进制近似值，也就是你看到的12.120000000000001。

解决办法 #

有两种常用的处理方式：

• 格式化输出：如果只是需要展示结果，直接按指定小数位数格式化即可，Python里可以这么写：

  number = 12.123123123
  base = 0.01
  result = base * round(number/base)
  print("{:.2f}".format(result))  # 输出 12.12
  

• 高精度十进制运算：如果需要在数值计算中保持精确性，推荐使用Python的decimal模块，它专门处理十进制精确运算：

  from decimal import Decimal, ROUND_HALF_UP
  
  number = Decimal('12.123123123')
  base = Decimal('0.01')
  # 先按基数取整，再乘回基数
  rounded_num = (number / base).to_integral_value(rounding=ROUND_HALF_UP) * base
  print(rounded_num)  # 输出 12.12
  

内容的提问来源于stack exchange，提问作者TylerD