如何修复Android计算器输出超过15位时的计算错误?
问题根因
你遇到的计算结果超过15位就出错的问题,核心原因是使用double浮点数做高精度数值计算。
Java里的double是遵循IEEE 754标准的双精度浮点数,有效数字的最大承载量只有15-17位,一旦参与计算的整数长度超过这个阈值,浮点数的二进制存储机制就无法精确表示对应的整数值,直接产生存储偏差——比如你测试用的16位数值9999999999999999,在执行Double.parseDouble解析的第一步就已经因为精度限制,被存成了10000000000000000,不是乘法运算环节出了错,是输入转浮点数的过程就已经丢失了精度,数值越大这种偏差越明显。
修复方案
全程替换高精度计算链路,完全避开double的精度缺陷,改用Java提供的BigDecimal类型完成计算:
- 替换全局结果变量的类型:将原来的
private double result = 0;修改为private BigDecimal result = BigDecimal.ZERO; - 重写核心计算逻辑,跳过浮点数转换环节,直接基于输入的数字字符串构造高精度数值对象做运算:
原代码中的乘法逻辑:
替换为:result = Double.parseDouble(nums.get((int)(0))) * Double.parseDouble(nums.get((int)(1)));// 直接从输入字符串构造BigDecimal对象,无精度丢失 BigDecimal firstNum = new BigDecimal(nums.get(0)); BigDecimal secondNum = new BigDecimal(nums.get(1)); result = firstNum.multiply(secondNum); - 修正原代码的语法小问题:原代码中的格式化语句
new DecimalFormat(#.##)缺少字符串包裹的引号,会导致编译报错,调整为new DecimalFormat("#.##")即可。这个格式化方法本身可以直接接收BigDecimal对象做格式处理,不需要额外转回double类型。
适配效果
修改完成后,哪怕输入几十位的整数、小数做计算,也不会出现精度丢失的问题,输出结果完全准确,能满足计算器应用的计算精度要求。
内容的提问来源于stack exchange,提问作者Wakeel Ahmad
相关产品推荐
相关产品推荐

