Java获取√2指定数位的代码精度问题排查

两种实现方案在digit大于6时失效的核心原因一致：double类型的精度上限不足以支撑高位数位取值：

• 双精度浮点数double仅能保证15~17位十进制有效数字的准确性，Math.sqrt(2)返回值本身就是√2的近似存储值，第7位小数（对应索引7）及之后的数位已经和√2的真实值存在偏差。
• 第一种数值计算思路额外存在浮点数运算误差：Math.pow幂次乘法、强转截断整数的过程中会出现精度偏移，比如理论结果为n.999999999999的值可能因浮点误差存储为n-1.000000000002，强转int后直接得到错误结果。
• 第二种转字符串的思路本质是将已经失真的double值转为字符串，第7位之后拿到的本身就是错误的存储值，自然无法返回正确结果。

不要使用基础浮点类型存储√2，改用BigDecimal实现高精度平方根计算，计算时预留足够冗余精度避免舍入误差影响目标数位，再直接从高精度结果中取对应索引的数位即可。
参考实现代码：

import java.math.BigDecimal;
import java.math.MathContext;
import java.math.RoundingMode;

public class SqrtTwoCalculator {
    public static int sqrtTwo(int digit) {
        // 非法参数拦截
        if (digit < 0) {
            return -1;
        }
        // 预留10位冗余精度，避免舍入操作影响目标数位准确性
        int calculatePrecision = digit + 10;
        BigDecimal two = new BigDecimal("2");
        // 高精度计算√2，Java 9及以上版本可直接调用BigDecimal内置sqrt方法
        BigDecimal sqrtResult = two.sqrt(new MathContext(calculatePrecision, RoundingMode.HALF_UP));
        
        // 拼接得到无小数点的完整数字字符串
        String fullDigits = sqrtResult.toPlainString().replace(".", "");
        
        // 越界防护（冗余精度足够时不会触发）
        if (digit >= fullDigits.length()) {
            throw new IllegalArgumentException("指定数位超出当前计算精度范围");
        }
        // 取对应位置字符转整数返回
        return fullDigits.charAt(digit) - '0';
    }
}

如果需要兼容Java 8及更早版本，自行实现BigDecimal版本的牛顿迭代开平方逻辑即可，核心是保证计算精度覆盖目标数位。

验证参考：√2的前20位有效数字为1.4142135623730950488，上述实现只要设置足够的计算精度，可以准确返回任意索引位置的正确数位，不存在double类型的精度上限问题。

内容的提问来源于stack exchange，提问作者andrew23