You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

平滑近似绝对值函数的√(x²+ε)方法名称及提出者问询

绝对值函数的平滑近似:名称与起源
  • 具体名称:你提到的这种$\sqrt{x^2 + \epsilon}$形式的绝对值平滑近似,最常见的称呼是平滑L1损失(Smooth L1 Loss)的一类具体实现,也会被直接叫做绝对值的平方根平滑近似。从更宽泛的分类来看,它属于L1损失的可微近似这个大家族——这类方法的核心目标都是保留L1损失对异常值低敏感度的优势,同时获得可微性,让牛顿法、梯度下降这类依赖导数的优化算法能正常工作。

  • 起源与首次提出者:这种近似方法很难追溯到某个单一的“首次提出者”,因为它是一种非常直观的数学构造:既然绝对值在原点不可微,那给平方项加个小常数再开根号,就能把原点的尖点磨平,同时在远离原点的地方几乎和原函数重合,这种思路是数值优化领域处理不可微凸函数的经典操作。目前能查到的文献显示,类似的平滑策略早在20世纪60年代的数值计算研究中就已经被广泛使用,作为解决不可微目标函数优化问题的常用技巧。

小补充:和它思路类似的还有Charbonnier损失(形式为$\sqrt{x^2 + \epsilon2}$,只是参数形式略有差异)、Huber损失(分段结合L1和L2的平滑损失),不过你问的$\sqrt{x2+\epsilon}$是更基础的一种平滑实现。

内容的提问来源于stack exchange,提问作者flawr

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.05.19 03:52:31