Java对6.02E23取整的行为及输出9223372036854775807的原因
为什么
Math.round(6.02e23)返回9223372036854775807? 这事儿得从Java里浮点数的精度限制和Math.round()的行为规则两个层面来拆解,咱们一步步说:
核心原因:6.02e23既超出long范围,又无法被double精确表示
先明确几个关键数值和规则:
Long.MAX_VALUE是Java中long类型能存储的最大值,也就是9223372036854775807(约9×10¹⁸),而6.02e23是6.02×10²³,比它大了好几个数量级,完全超出了long的存储边界。- Java里的
6.02e23默认是double类型,而double遵循IEEE 754标准,它只能精确表示-2⁵³到2⁵³之间的整数(约-9×10¹⁵到9×10¹⁵)。超过这个范围后,double无法存储单个整数的精确值,只能用近似值表示——而且数值越大,相邻两个可表示的double值之间的间隔就越大。到6.02e23这个量级时,相邻double的间隔已经达到了10¹⁷左右,也就是说,这个double值其实代表了一个跨度极大的整数区间,而区间里的所有整数都远大于Long.MAX_VALUE。
Math.round()对超大double值的具体处理逻辑
当调用Math.round(double a)时,Java的处理规则很明确:
- 如果
a是NaN,返回0; - 如果
a是正无穷,返回Long.MAX_VALUE; - 如果
a的数值大于Long.MAX_VALUE,直接返回Long.MAX_VALUE; - 如果
a的数值小于Long.MIN_VALUE,直接返回Long.MIN_VALUE; - 只有当
a落在long的取值范围内时,才会执行常规的四舍五入(若刚好是.5结尾,会取偶数)。
回到你的问题:6.02e23作为double的值远大于Long.MAX_VALUE,所以Math.round()直接返回了long类型的最大值,也就是你看到的9223372036854775807。
内容的提问来源于stack exchange,提问作者Ask8
相关产品推荐
相关产品推荐

