复现老旧软件计算逻辑：双精度浮点数输出异常求助

一、大指数绝对值>200时的异常输出处理 #

老旧数值软件大概率采用**单精度浮点数（float32）**而非Python默认的双精度（float64），这是导致大指数下输出差异的核心原因：

• float32的有效位数仅约7位，当指数绝对值超过200时，浮点数的尾数位精度不足，会出现类似“大数末尾追加极小值”“小数末尾截断减位”的现象，和你用np.nextafter能模拟的表现一致。
• 实现思路：先将输入转换为float32完成计算，再按你的round_significant_3规则处理输出，同时针对float32的精度特性做补正：

import numpy as np

def legacy_round_significant_3(x):
    # 转换为单精度浮点数模拟老旧软件精度
    x_float32 = np.float32(x)
    # 处理极端大/小指数值
    if np.abs(x_float32) >= 1e200 or np.abs(x_float32) <= 1e-200:
        if x_float32 > 0:
            # 大数：向无穷大偏移一位，模拟末尾追加极小值
            x_float32 = np.nextafter(x_float32, np.inf)
        else:
            # 小数：向0偏移一位，模拟末尾减位
            x_float32 = np.nextafter(x_float32, 0)
    # 执行6位有效数字+3位指数舍入逻辑
    if x_float32 == 0:
        return "0.000000e+000"
    sign = np.sign(x_float32)
    abs_x = np.abs(x_float32)
    exp = int(np.floor(np.log10(abs_x)))
    mantissa = abs_x / (10 ** exp)
    rounded_mantissa = np.round(mantissa, 5)  # 保留6位有效数字
    if rounded_mantissa >= 10:
        rounded_mantissa /= 10
        exp += 1
    return f"{sign * rounded_mantissa:.6f}e{exp:+03d}"

二、erf函数的特殊容差舍入逻辑 #

软件对erf(tan(9467.36))输出-1，而非Python的-0.9999999999999998，本质是设置了接近±1的容差阈值：当erf结果与±1的差值小于软件所用精度下的最小可分辨值时，直接输出±1。

• 实现思路：先计算erf值（同样用float32模拟精度），再判断是否落在±1的容差范围内：

def legacy_erf(x):
    # 用单精度计算erf，模拟老旧软件精度
    x_float32 = np.float32(x)
    erf_val = np.float32(np.math.erf(x_float32))
    # 定义float32精度下的容差（约1e-7）
    tolerance = np.float32(1e-7)
    if 1 - erf_val < tolerance:
        return 1.0
    elif erf_val + 1 < tolerance:
        return -1.0
    else:
        return erf_val

# 测试案例
tan_val = np.float32(np.math.tan(9467.36))
print(legacy_erf(tan_val))  # 输出 -1.0

额外验证建议 #

• 拿更多老旧软件的输出样本对比，调整legacy_round_significant_3中的偏移规则和legacy_erf的阈值，不同老旧软件的自定义舍入逻辑可能略有差异；
• 若软件采用的不是标准float32，可尝试用decimal库设置7位左右的有效数字，模拟软件的计算精度限制。

内容的提问来源于stack exchange，提问作者Elom Nusk