透视矩阵分解近远距时的不可预测浮点误差问题排查

我最近在尝试从透视矩阵中反向分解近、远裁剪面距离时遇到了精度异常，先把具体情况和问题整理出来：

测试场景与结果 #

• 输入参数：
  • 宽高比 aspect = 0.782f
  • 垂直视角 fovy = glm_rad(49.984f)
  • 设定近距 nearDist = 0.1550385f，远距 farDist = 6000.340975f
• 矩阵生成：通过glm_perspective生成列主透视矩阵proj
• 分解公式：采用 near = proj[3][2] / (proj[2][2] - 1.0f)、far = proj[3][2] / (proj[2][2] + 1.0f)
• 分解结果：
  • 近距分解值 0.155039，和预期完全一致
  • 远距分解值 5993.506348，与设定值误差明显
  • 当缩小远距设定值时，精度显著提升：
    • farDist=600.340975时，分解远距为600.319885
    • farDist=60.340975f时，分解远距为60.340946

数学逻辑是否存在问题？ #

结论是：数学逻辑完全没问题，误差来自单精度浮点数的精度限制。

根据gluPerspective的透视矩阵定义，相关元素的计算公式为：

m22 = (near + far) / (near - far)
m32 = 2 * near * far / (near - far)

我们可以反向推导分解公式的正确性：

1. 推导近距公式：
   m22 - 1 = (near+far)/(near-far) - 1 = (near+far - near + far)/(near-far) = 2far/(near-far)
   代入分解公式得：near = m32/(m22-1) = [2near*far/(near-far)] / [2far/(near-far)] = near，完全成立。

2. 推导远距公式：
   m22 + 1 = (near+far)/(near-far) + 1 = (near+far + near - far)/(near-far) = 2near/(near-far)
   代入分解公式得：far = m32/(m22+1) = [2near*far/(near-far)] / [2near/(near-far)] = far，同样完全成立。

误差的根源在于：当far远大于near时，near + far ≈ far、near - far ≈ -far，单精度float仅能提供23位有效数字，这种大数与小数的加减运算会导致有效数字丢失，使得矩阵中存储的m22和m32已经不是精确值，反向计算时自然会放大误差。

不使用双精度存储矩阵的解决办法 #

如果不能用双精度存储矩阵，推荐以下几种方案：

• 直接存储原始near/far值：这是最可靠的方案。在生成透视矩阵时，直接将设定的nearDist和farDist保存到变量中，不需要从矩阵反向推导，彻底规避精度问题。
• 优化计算顺序减少误差：针对远距计算，尝试先计算inv_far = (proj[2][2] + 1.0f) / proj[3][2]，再通过far = 1.0f / inv_far得到结果，这种方式可以避免直接除以极小值（当far很大时，proj[2][2]非常接近-1，proj[2][2]+1是极小值），一定程度上降低误差放大的影响。
• 限制near与far的比值：如果业务场景允许，尽量缩小far与near的数量级差距，比如适当调大near或调小far，减少大数加减带来的精度损失。
• 利用矩阵元素的组合推导：可以结合透视矩阵的其他元素（比如m00或m11，它们和视角、宽高比相关）辅助验证，但核心还是要避免单精度下的极端数值运算。

内容的提问来源于stack exchange，提问作者recp