如何解决Lua浮点数精度不足的问题

Lua浮点数精度问题处理方案 #

首先澄清一个常见误区：你看到的输出截断并不等同于实际存储的精度丢失。Lua默认使用IEEE 754双精度64位浮点数存储数值，本身可以支持15_{17位十进制有效数字，你给出的示例中输入的3.14159265358979共16位有效数字，实际是完整存储在内存中的，print输出被截断只是因为Lua默认的打印精度只保留13}14位有效数字。

对应处理方案如下：

• 调整输出精度，解决显示截断问题
  如果你只是需要打印完整的数值，直接用string.format指定输出精度即可，示例如下：

  local num = 3.14159265358979
  -- 默认输出
  print(num) -- 输出3.1415926535898
  -- 指定16位小数输出
  print(string.format("%.16f", num)) -- 输出3.1415926535897900
  -- 自动去除末尾无效0的通用写法
  print(string.format("%.17g", num)) -- 输出3.14159265358979
  

• 普通计算场景的误差规避
  双精度浮点数本身的精度足以覆盖绝大多数通用计算场景，只需要注意两个操作即可避免误差影响：
  1. 浮点数比较不要直接用==，改为判断差值小于可接受的误差阈值，例如：math.abs(a - b) < 1e-12即认为两个数相等
  2. 金融、计数等对精度要求极高的场景，可以把小数放大为整数计算，例如将元转为分、米转为毫米，所有运算都用整数完成，最后再做一次单位转换即可完全规避浮点误差
• 超高精度需求场景使用第三方任意精度库
  如果你的业务场景需要超过17位的有效数字（比如科研计算、密码学相关运算），可以引入Lua的第三方高精度数值库，比如lmapm、luadecimal，这类库通过软件实现任意精度的十进制运算，可根据需求自定义精度上限，不会出现IEEE 754浮点数的精度限制问题。

内容的提问来源于stack exchange，提问作者ShanHai