Lua中浮点数计算12.7-20+7.3非零的原因及解决方法

问题原因 #

Lua采用IEEE 754双精度浮点数存储数值，而部分十进制有限小数（比如0.7、0.3）无法被二进制浮点数精确表示——它们在二进制中是无限循环的，存储时只能取近似值。

当计算12.7 - 20 + 7.3时，12.7和7.3的二进制近似值相加后，并没有刚好等于20.0，而是产生了一个极小的负偏差（-8.8817841970013e-016），这就是浮点数的精度误差。

至于3.7-13+9.3能得到0.0，是因为这两个数的二进制近似误差刚好相互抵消，让最终结果刚好落在了可以精确表示的0.0上；而7.3及以下的加数，误差无法抵消，就会留下微小偏差。

解决方法 #

针对这类场景，有几种实用的处理方式：

1. 误差范围判断 #

由于误差极小（通常在1e-15量级），可以判断结果是否接近0，若在阈值内则强制设为0：

local res = 12.7 - 20 + 7.3
if math.abs(res) < 1e-10 then -- 选一个适合场景的阈值
    res = 0
end
print(res) -- 输出0

2. 四舍五入处理 #

Lua 5.3及以上版本提供了math.round()函数，可直接对结果取整：

local res = math.round(12.7 - 20 + 7.3)
print(res) -- 输出0

如果需要保留小数位，可以结合string.format后再转换：

local res = tonumber(string.format("%.10f", 12.7 - 20 + 7.3))
if res == -0.0 then res = 0 end -- 处理负0的情况
print(res) -- 输出0

3. 精确十进制计算（复杂场景） #

如果涉及金融、高精度计算等对精度要求极高的场景，可以使用第三方十进制库（如LuaDecimal）来避免浮点数误差，但对于普通加减运算，前两种方法足够应对。

内容的提问来源于stack exchange，提问作者Ryal Naufal