如何在C语言等式计算中设置数学精度解决double等值判断问题

核心遗漏要点 #

• DBL_EPSILON适用场景错误
  DBL_EPSILON是double类型在数值为1附近可区分的最小差值，仅适配比较结果接近1的场景。如果你的p1、p2、p3数值量级远大于1或者远小于1，浮点运算的误差会被对应放大，远超过DBL_EPSILON的数值，直接用该值作为阈值必然无法匹配相等条件。
• 未考虑多步运算的误差累积
  你代码中的加法、乘法、开平方操作都会产生精度损失：不同运算顺序（例如p1+p2+p3和(p1+p2)+p3在三个参数量级差异较大时计算结果不同）、开平方本身属于近似计算，哪怕数学上完全相等的表达式，经过多步浮点运算后的累积误差也会超过通用阈值。
• 阈值未适配业务精度要求
  浮点数相等判断没有通用的标准阈值，需要结合业务可接受的误差范围设置。比如常规几何计算允许1e-6的误差，就可以将阈值设为对应值，无需强制使用系统提供的最小精度值。

修复方案 #

采用绝对误差+相对误差的组合判断逻辑，参考实现如下：

#include <math.h>
// 可根据业务精度需求调整阈值，示例取1e-8
#define EPS 1e-8

int calc(double a, double b) {
    // 先判断绝对误差，适配数值接近0的场景
    if (fabs(a - b) <= EPS) {
        printf("= ");
        return 0;
    }
    // 再判断相对误差，适配数值量级较大的场景
    double max_abs = fmax(fabs(a), fabs(b));
    if (fabs(a - b) <= max_abs * EPS) {
        printf("= ");
        return 0;
    }
    if (a < b) {
        printf("< ");
        return -1;
    } else {
        printf("> ");
        return 1;
    }
}

你在十进制计算器上看到的结果相等，是因为计算器仅展示了有限位有效数字，截断了末尾的误差部分，不代表实际浮点运算的二进制存储值完全一致。

内容的提问来源于stack exchange，提问作者user13343210