Python自定义有效数字取整函数为何在sig_fig为4的倍数时运行异常

问题复现 #

对应函数代码与测试输入如下：

def round_sig_fig(n, sig_fig = 3):
    x = 0
    if n == 0:
        n = 0
    elif abs(n) < 10**(sig_fig - 1):
        while abs(n) < 10**(sig_fig - 1):
            n *= 10
            x -= 1
    elif abs(n) > 10**(sig_fig):
        while abs(n) > 10**(sig_fig):
            n *= 0.1
            x += 1
    result = round(n) * (10**x)
    return result

x = 453.22599999999999

实际测试输出：

• 传入sig_fig=7，返回453.226
• 传入sig_fig=10，返回453.226
• 传入sig_fig=8，返回453.22600000000006
• 传入sig_fig=12，返回453.22600000000006
  表面现象是仅当sig_fig为4的倍数时会出现带长尾小数的异常结果，但这个规律完全是测试样本带来的巧合，和4这个数值本身没有逻辑关联。

核心原因拆解 #

1. 浮点数计算的固有残差是问题根源 #

整个函数的计算全程基于Python默认的双精度二进制浮点数实现：

• 10不是2的整数次幂，每一次乘10或者除以10的循环操作，都会产生一次不可避免的二进制舍入误差
• 哪怕缩放后通过round得到了完全精确的整数，乘以的缩放系数10**x本身也无法用二进制浮点数精确表示，乘积结果依然会存在存储残差
• 残差会随着缩放循环次数的增加不断累积，最终表现为肉眼可见的长尾小数。

2. “4的倍数触发异常”是显示机制带来的巧合 #

Python显示浮点数时遵循最短可往返原则：如果某个浮点数和某个十进制短值的差小于1e-15，就会直接显示成这个短值，不会输出底层存储的残差。
对当前453量级的测试样本来说，累积残差的大小刚好在sig_fig取8、12这些4的倍数时，超过了短值显示的阈值，才会把带残差的结果打出来；而sig_fig取7、10时残差没到阈值，就被简化显示成了干净的453.226。只要换一个测试数值，这个和4的倍数绑定的规律马上就会失效——比如换一个其他量级的测试值，残差触发点可能出现在sig取5、9、13的时候，和4没有固定关联。

3. 函数设计放大了残差感知 #

当前函数靠反复循环乘10/乘0.1完成量级缩放，每一步循环都会带来一次独立的舍入误差，比一步到位的缩放方式累积误差更大。再加上最终直接返回浮点数，而双精度浮点数本身就没法精确表示所有十进制小数，自然容易把本来微小的存储残差暴露出来，造成“函数算错了”的错觉。

内容的提问来源于stack exchange，提问作者BlockNoir