自动微分场景下获取CppAD::AD<U>的下一个可表示浮点值

可行方案：添加正epsilon #

直接给目标值加上一个合适的正epsilon是可行的，核心是要选对epsilon，同时处理边界情况，确保：

• 返回值严格大于原数值
• 操作具备可微性
• 增量尽可能接近真实的“下一个可表示值”

如何选择epsilon #

不能直接用固定的std::numeric_limits<U>::epsilon()（这是相对精度值，对大数可能无效，对小数可能跳得太远），应该根据当前值动态计算：

• 对于非零值：使用相对增量 |v| * std::numeric_limits<U>::epsilon()，这样增量和数值本身的精度匹配，尽可能贴近真实的nextafter结果
• 对于零值：使用std::numeric_limits<U>::min()（该类型能表示的最小正数值），确保得到大于0的最小可表示值
• 处理极端边界：正无穷直接返回自身；-0先转为0再处理；若增量溢出为无穷（比如v是最大有限数），则返回正无穷

示例实现代码 #

#include <CppAD/CppAD.hpp>
#include <limits>

template <typename U>
CppAD::AD<U> next_ad_up(CppAD::AD<U> v) {
    using ADU = CppAD::AD<U>;
    const U rel_eps = std::numeric_limits<U>::epsilon();
    const U min_pos = std::numeric_limits<U>::min();
    const U inf_val = std::numeric_limits<U>::infinity();

    // 正无穷直接返回自身
    if (CppAD::isinf(v) && v > 0) {
        return v;
    }
    // 将-0转为0
    if (v == ADU(-0.0)) {
        v = ADU(0.0);
    }

    // 计算动态增量
    ADU delta = (v != ADU(0.0)) ? CppAD::abs(v) * ADU(rel_eps) : ADU(min_pos);
    
    // 处理增量溢出为无穷的情况（比如v是最大有限数）
    if (CppAD::isinf(delta)) {
        return ADU(inf_val);
    }

    return v + delta;
}

关键说明 #

• 该实现所有操作均为CppAD支持的可微操作（加减乘、绝对值、isinf判断等都有AD重载），可以正常参与自动微分计算
• 确实无法得到和原生nextafter完全一致的“下一个可表示值”，但这是AD类型下的最优权衡：既保证了可微性，又严格确保返回值大于原数，同时增量尽可能贴近真实精度
• 对于负数，增量是正的，返回值会比原负数更接近0，符合“大于原数值”的要求

内容的提问来源于stack exchange，提问作者0xbadf00d