如何计算或估算特定数值的浮点舍入误差?64位转32位场景应用
关于float64转float32向上调整逻辑的核心问题解答
你当前误差估算方法的实际问题
你现在用的x * Math.pow(2, -24)这个写法,本质是抓住了IEEE754单精度浮点数24位有效精度的特点,用相对误差上界估算调整量,在多数常规场景下确实能跑通,但存在三个绕不开的缺陷:
- 碰到float32非规格化数区间时,估算值会严重偏小。非规格化数没有隐含的前导1位,实际有效精度远低于24位,这时候算出来的调整量远小于真实的舍入步长,很容易出现转成float32后比原数值还小的问题。
- 临近float32表示范围的2的幂次交界时,估算值是有偏差的。实际上float32的相邻可表示值的步长,是和数值所在的2的幂次区间绑定的固定值,不是和x成严格线性关系,估算出来的误差要么差一点不够、要么多一点冗余,没有严格的数学保证。
- 整个调整流程本身有逻辑漏洞。你是先加估算的误差再转float32,如果加完误差的数值刚好落在两个相邻float32可表示值的正中间,还是会被默认的就近舍入规则舍到更小的那个值上,没法100%保证包围盒不会缩小。
如何准确获取对应数值尺度下的最大浮点舍入误差
- 我们真正需要的最大舍入误差,本质就是float32在该数值尺度下的单位最后位置(ULP)步长。对落在[2^n, 2(n+1))区间的数值,float32相邻可表示值的固定间隔就是2(n-23),这才是这个尺度下的真实最大舍入误差边界,根本不需要靠相对比例猜测。
- 要拿到某个数值对应的精确ULP值,不需要做经验性估算:直接解析浮点数值的二进制阶码位就能精确推导,不管是常规规格化数还是非规格化数,都能算出没有偏差的步长值。
更可靠的实现思路
完全没必要手动算误差值再加法调整,只要用IEEE754本身支持的舍入方向控制能力,就能100%保证转换结果不小于原输入的float64值:
- 优先用环境提供的、可指定舍入方向的float32转换接口,直接把舍入模式设为向正无穷方向舍入,得到的结果就是大于等于原输入值的最小可表示float32,从根上避免包围盒缩小的问题,也不用自己估算任何误差值。
- 如果需要写兼容逻辑,最稳的实现流程是:
- 先根据数值的阶码算出对应的精确ULP步长
- 原数值加上1.5倍的ULP步长留够冗余,避免调整后的数值刚好落在两个可表示值的中间被向下舍入
- 把调整后的数值转成float32,校验转换结果是不是大于等于原数值,不够就再往上跳一个ULP直到满足大小要求。
你现在的方法在非极端场景下确实能正常工作,只是因为没有严格的数值保证,在BVH这种对包围盒完整性要求极高的场景下,碰到边界数值时可能出现隐蔽的穿模问题,换成精确ULP计算加舍入方向控制的方案会靠谱很多。
内容的提问来源于stack exchange,提问作者Garrett Johnson
相关产品推荐
相关产品推荐

