You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

将double变量传入long参数函数的问题及6位小数转分数实现咨询

问题分析与修复方案

嘿,我来帮你拆解下代码里遇到的问题,以及怎么正确解决它!

核心问题:Double的精度限制在搞鬼

你代码里输出的9.2233720368547E13是科学计数法的double值,问题出在直接用d * 1000000然后强转long这一步:
double类型的有效精度只有15-17位,当你处理的数值较大(或者小数部分无法用二进制浮点数精确表示)时,d * 1000000的结果会丢失精度,无法精确对应到一个整数,强转long后自然会得到不符合预期的数值。

举个简单例子:如果原始double是0.1,它本身就无法用二进制浮点数精确表示,乘以1e6后得到的其实是99999.99999999999,强转long就会变成99999,而不是预期的100000——这就是精度丢失的典型表现。

正确的实现:用BigDecimal保证精确性

要精确保留6位小数并转换为long类型,应该使用BigDecimal来处理所有运算,避免浮点数的精度误差。修改后的代码如下:

import java.math.BigDecimal;
import java.math.RoundingMode;

public class DoubleToLong {

    public DoubleToLong(double d) {
        // 用BigDecimal精确格式化到6位小数,四舍五入
        BigDecimal preciseValue = new BigDecimal(d)
                .setScale(6, RoundingMode.HALF_UP);
        System.out.println("精确格式化后的值: " + preciseValue);

        // 转换为分子(乘以1000000后的精确整数)
        long numerator = preciseValue.multiply(new BigDecimal(1000000))
                .longValueExact();
        convert(numerator, 1000000);
    }

    public void convert(long num, long den) {
        System.out.println("Numerator: " + num + " Denominator: " + den);
    }
}

几个关键细节

  • 舍入模式选择:RoundingMode.HALF_UP是常用的四舍五入规则,如果你需要截断而非四舍五入,可以换成RoundingMode.DOWN。
  • 安全转换:longValueExact()会在数值超出long的范围时抛出ArithmeticException,避免静默的溢出错误,比直接强转更安全。
  • 如果是字符串输入:如果你的原始数值是从字符串获取的,直接用new BigDecimal("你的数值字符串")构造,能彻底避免double初始化时的精度丢失。

内容的提问来源于stack exchange,提问作者aashish

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.05.20 10:33:11