Ruby浮点数运算精度异常咨询：为何计算结果不符预期

嘿，这个问题其实不是Ruby的bug哦，它是二进制浮点数的固有特性导致的——几乎所有采用IEEE 754标准浮点数的编程语言（比如Python、Java、JavaScript）都会遇到类似情况。

核心原因：十进制小数无法精确转换为二进制浮点数 #

我们日常用的是十进制（基数10），但计算机内部是用二进制（基数2）来存储浮点数的。很多十进制小数在二进制里是无限循环的小数，就像十进制里1/3是0.333...一样，没办法用有限位的二进制数精确表示。

比如：

• 0.1的二进制表示是0.0001100110011...（无限循环）
• 你用到的37.9和6.05，转换成二进制浮点数时也只能存储一个近似值，无法做到完全精确

当你对这些近似值进行加减运算时，微小的误差会被累积，最终就出现了像31.849999999999998或者43.949999999999996这种看起来“不对”的结果，但这其实是浮点数存储和运算的正常现象。

怎么解决这个问题？ #

如果需要绝对精确的十进制运算（比如涉及金钱、财务计算），推荐使用Ruby标准库中的BigDecimal类，它专门用于处理高精度的十进制数值：

require 'bigdecimal'
require 'bigdecimal/util'

# 将浮点数转换为BigDecimal对象
num1 = 37.9.to_d
num2 = 6.05.to_d

puts num1 - num2  # 输出 31.85
puts num1 + num2  # 输出 43.95

如果只是需要输出时看起来正确，也可以对结果进行格式化处理，比如用sprintf或者round方法保留指定小数位（这只是优化显示，本质还是处理浮点数近似值，适合非高精度要求的场景）：

result = 37.9 - 6.05
puts sprintf("%.2f", result)  # 输出 31.85
puts result.round(2)          # 输出 31.85

内容的提问来源于stack exchange，提问作者Fleep