绝对值差值逻辑测试输出结果不正确及异常原因咨询
逻辑校验环节绝对值差值计算异常
执行逻辑校验操作时,会出现计算得到的绝对值差值输出错误结果的情况。
异常特征
- 问题在数值保留两位小数的环节表现出敏感性
- 无固定触发规律,同为两位小数的测试示例中,部分用例可得到正确输出
已验证的临时解决方案
- 通过
round函数对计算值做处理即可快速解决该问题,可供遇到同类问题的人员参考
待解疑问
- 目前尚未明确该异常产生的底层原因

内容的提问来源于stack exchange,提问作者Michael Grammatikopoulos
相关产品推荐
相关产品推荐

