You need to enable JavaScript to run this app. int转double是否会丢失精度?共线判断double版结果为何与int版不一致
优惠活动
大模型
产品
解决方案
定价
更多

int转double是否会丢失精度?共线判断double版结果为何与int版不一致

三点共线判断的double精度问题分析

核心结论

  • 两个版本的结果差异完全是double计算过程中的舍入精度丢失导致的。
  • 本次测试用例中,所有int类型的坐标参数转换为double的过程没有任何精度损失,精度丢失发生在后续的中间乘积计算环节。

测试用例的数学真值验证

采用行列式公式展开共线判断的核心计算值:
a = x1*(y2-y3) + x2*(y3-y1) + x3*(y1-y2)
代入测试点(0,0)、(94911150,94911151)、(94911151,94911152),利用平方差公式化简:

a = 0 + 94911150*(94911152 - 0) + 94911151*(0 - 94911151)
  = (94911151 - 1)*(94911151 + 1) - 94911151²
  = 94911151² - 1 - 94911151²
  = -1

真实值为-1,因此int版本输出"No"符合数学真值,double版本输出"Yes"是错误结果。

double版本的错误产生逻辑

C/C++采用的IEEE754双精度浮点数(double)仅分配53位二进制尾数,能精确表示的整数范围上限为253(约9.007×1015),超出这个范围的整数会被舍入到最近的可存储值。

  • 单个坐标值(如94911152这类8位十进制整数)远低于2^53的阈值,因此从int转double的转换过程是100%精确的,不存在转换损失。
  • 计算过程中的两个中间乘积值(94911150*94911152、-94911151*94911151)的量级约为9.008×1015,刚好超过253的精度边界。在253~254的数值区间内,double的可表示整数步长为2(仅能存储偶数),因此奇数无法被精确记录:
    • 第一个乘积为偶数,可被精确表示,存储值为9008126583944800
    • 第二个乘积为奇数,会被舍入到最近的可存储偶数,存储值为-9008126583944800
  • 两个舍入后的数值相加结果恰好为0,触发了a == 0.0的判断条件,最终错误输出"Yes"。

常见误区说明

  • 常规的浮点相等判断加epsilon阈值的方案,在这个案例中无法修正错误:因为真实值-1已经被计算过程的舍入彻底抵消为0,没有任何误差余量留给epsilon判断。
  • 32位int版本的行列式计算虽然结果正确,但如果坐标值继续增大,乘法结果会超出32位int的存储范围,触发整数溢出,因此更稳妥的实现是用64位整数类型(long long)计算行列式,从根源上避免浮点舍入和整数溢出问题。

内容的提问来源于stack exchange,提问作者cjds

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.11.17 06:06:08