Python中将float转换为int时得到错误结果是什么原因?
问题核心原因是Python默认float类型的精度限制
- Python的
float本质是IEEE 754标准的64位双精度浮点数,仅能精确表示不超过2^53(即9007199254740992,约9e15)的整数。 - 你计算得到的正确结果
77033412951888085约为7.7e16,已经远大于2^53的范围,无法被浮点数精确存储,会被自动舍入到距离最近的可表示浮点数值,这就是你看到float(result)输出为7.703341295188808e+16、转int后丢失精度的直接原因。
两种写法的差异
- 用
/的写法:Python 3中/运算符默认返回浮点数,从第一步除法开始就进入了浮点数运算流程,全程存在精度损失,最终转int自然得到错误结果。 - 用
//的写法://是整数除法,全程使用Python的任意精度大整数int类型运算,不会有精度截断,因此能得到正确结果。
如果你需要做无精度损失的整数运算,全流程都应该避免触发浮点数转换,优先使用整数运算符
//、*、+、-处理大整数。
内容的提问来源于stack exchange,提问作者Leonardo Sapiras
相关产品推荐
相关产品推荐

