int转double是否会丢失精度?共线判断double版结果为何与int版不一致
三点共线判断的double精度问题分析
核心结论
- 两个版本的结果差异完全是double计算过程中的舍入精度丢失导致的。
- 本次测试用例中,所有int类型的坐标参数转换为double的过程没有任何精度损失,精度丢失发生在后续的中间乘积计算环节。
测试用例的数学真值验证
采用行列式公式展开共线判断的核心计算值:a = x1*(y2-y3) + x2*(y3-y1) + x3*(y1-y2)
代入测试点(0,0)、(94911150,94911151)、(94911151,94911152),利用平方差公式化简:
a = 0 + 94911150*(94911152 - 0) + 94911151*(0 - 94911151) = (94911151 - 1)*(94911151 + 1) - 94911151² = 94911151² - 1 - 94911151² = -1
真实值为-1,因此int版本输出"No"符合数学真值,double版本输出"Yes"是错误结果。
double版本的错误产生逻辑
C/C++采用的IEEE754双精度浮点数(double)仅分配53位二进制尾数,能精确表示的整数范围上限为253(约9.007×1015),超出这个范围的整数会被舍入到最近的可存储值。
- 单个坐标值(如94911152这类8位十进制整数)远低于2^53的阈值,因此从int转double的转换过程是100%精确的,不存在转换损失。
- 计算过程中的两个中间乘积值(
94911150*94911152、-94911151*94911151)的量级约为9.008×1015,刚好超过253的精度边界。在253~254的数值区间内,double的可表示整数步长为2(仅能存储偶数),因此奇数无法被精确记录:- 第一个乘积为偶数,可被精确表示,存储值为9008126583944800
- 第二个乘积为奇数,会被舍入到最近的可存储偶数,存储值为-9008126583944800
- 两个舍入后的数值相加结果恰好为0,触发了
a == 0.0的判断条件,最终错误输出"Yes"。
常见误区说明
- 常规的浮点相等判断加epsilon阈值的方案,在这个案例中无法修正错误:因为真实值-1已经被计算过程的舍入彻底抵消为0,没有任何误差余量留给epsilon判断。
- 32位int版本的行列式计算虽然结果正确,但如果坐标值继续增大,乘法结果会超出32位int的存储范围,触发整数溢出,因此更稳妥的实现是用64位整数类型(
long long)计算行列式,从根源上避免浮点舍入和整数溢出问题。
内容的提问来源于stack exchange,提问作者cjds
相关产品推荐
相关产品推荐

