Mathf.Approximately返回true的最简示例及测试问题咨询
Mathf.Approximately 判定逻辑与返回true的最简示例
核心判定规则
Mathf.Approximately(float a, float b) 不按固定小数位判断近似,它的作用是识别单精度浮点数的机器级精度误差,底层判定逻辑等价于:
Mathf.Abs(a - b) < Mathf.Epsilon * 8
其中Mathf.Epsilon是单精度浮点数能表示的大于0的最小值,数值约为1.401298E-45,这个阈值极小。
你的测试全返回false的原因
你测试用的三组数值差值分别是1e-4、1e-8、1e-14,看起来数值很小,但和8*Mathf.Epsilon(约1.12e-44)比起来大了几十个数量级,远大于判定阈值,自然全部返回false。
返回true的最简示例
- 完全相等的数值,必然返回true:
Debug.Log(Mathf.Approximately(0f, 0f)); // 输出True Debug.Log(Mathf.Approximately(3.14f, 3.14f)); // 输出True
- 差值小于判定阈值的浮点数精度误差场景,也是这个方法最常用的场景:
// 单精度浮点数运算产生的机器级误差场景 float val = 0.1f; float calcResult = val * 10f / 10f; Debug.Log(Mathf.Approximately(val, calcResult)); // 输出True // 和最小精度值比较,差值小于阈值 Debug.Log(Mathf.Approximately(0f, Mathf.Epsilon)); // 输出True
注意:这个方法的容差是机器级极小值,不要用它做业务层的固定容差判断(比如判断差值小于0.01就算相等),这类场景需要自己写容差逻辑。
内容的提问来源于stack exchange,提问作者arael6
相关产品推荐
相关产品推荐

