设置epsilon值避免除零错误的最佳实践与选型考量

问题背景 #

我计划向分母添加一个接近0的epsilon值以避免除零错误，示例代码如下：

double EPS = DBL_MIN;
double no_zerodivision_error = 0.0 / (0.0 + EPS);

我的应用中存在大量分母为零的正常场景，因此不考虑抛出异常。另外注意到部分场景（如深度学习PyTorch的Adam优化器）也会采用类似方式：

# eps: 加到分母中提升数值稳定性的项（默认值：1e-8）
torch.optim.Adam(..., eps=1e-08, ...)

请问设置该epsilon值时，有哪些通用最佳实践或注意事项可规避后续问题？另外，在DBL_MIN与DBL_EPSILON之间选择时，哪一个更优？我原以为任意小数值均可，但担心未来出现难以排查的隐性问题。

通用最佳实践与注意事项 #

• 匹配业务场景的数量级：epsilon的取值要和分母的典型数值规模匹配。比如如果分母通常在1e-3到1e3区间，选1e-8比DBL_MIN更合适——DBL_MIN过小，当分母为非零的小数值时，加上它几乎不会改变结果；但分母为0时，1e-8能让计算结果保持在合理范围，不会溢出到无穷大或出现NaN。
• 避免过度修正引入偏差：epsilon选得太大，会给计算结果引入不必要的偏差。比如当分母本身是有效小数值时，过大的epsilon会掩盖真实结果，导致后续逻辑出现误差。
• 统一全局配置：不要在代码中分散定义多个不同的epsilon值，建议在全局常量中统一声明，方便后续维护调整，避免因模块取值不一致引发隐性问题。
• 测试边界场景：针对分母为0、分母接近0、分母为正常数值三类场景分别测试，验证epsilon引入后的计算结果是否符合预期，重点检查是否出现精度丢失或异常值。
• 参考领域标准取值：像深度学习领域Adam优化器默认用1e-8这类经过大量实践验证的取值，可直接参考，减少踩坑概率。

DBL_MIN vs DBL_EPSILON：选型对比 #

先明确两者定义：

• DBL_MIN：双精度浮点数能表示的最小正数值（约2.225e-308），远小于大多数业务场景的有效数值。
• DBL_EPSILON：双精度浮点数中，1.0与下一个可表示浮点数的差值（约2.220e-16），反映双精度浮点数在1.0附近的精度水平。

从避免除零错误的角度，DBL_EPSILON通常比DBL_MIN更优，原因如下：

1. 分母为0时，加DBL_MIN会得到极小值，计算结果会变成极大数值（0/DBL_MIN≈4.46e307），易超出后续计算的合理范围，甚至引发溢出；而DBL_EPSILON对应的结果（0/DBL_EPSILON≈4.5e15）相对更可控。
2. 当分母本身是有效小数值时，DBL_EPSILON的量级更贴近常规计算的精度要求，既不会引入过大偏差，也能保证计算稳定性；而DBL_MIN几乎不会对结果产生影响，达不到修正效果。
3. DBL_MIN的极小值可能在计算中被“吞噬”——比如分母是比DBL_MIN大几个量级的小数值时，浮点数精度无法体现DBL_MIN的存在，相当于没加，仍可能出现除零相关问题（如分母下溢到0）。

若业务场景中分母数值本身就接近DBL_MIN量级，可根据实际情况调整，但这类场景非常罕见。

内容的提问来源于stack exchange，提问作者starriet 차주녕