Java中字节数组转BigInteger生成RSA公钥时模数错误如何解决

根因说明 #

1. 你观察到的BigInteger转字节数组出现前导00不是问题根源：Java中BigInteger.toByteArray()返回的是整数的补码表示，当正数的最高位为1时，会自动补充一个0x00字节保证符号位为正，该特性不会影响RSAPublicKeySpec对公钥的生成，因为RSAPublicKeySpec直接读取BigInteger的数值，不需要处理字节数组的前导零。
2. 实际问题是服务端返回的模数为小端序（低位字节在前），而Java的RSA组件要求模数为大端序（高位字节在前），直接转换就会得到错误的模数值。

修复方案 #

截取到模数的字节数组后，先反转字节序再转换为BigInteger即可，代码如下：

// 原有截取模数字节数组的逻辑不变
byte[] rsaModuloBytes = Arrays.copyOfRange(response, 71, packageLength);
// 反转小端序为大端序，无第三方依赖的原生实现
for (int i = 0; i < rsaModuloBytes.length / 2; i++) {
    byte temp = rsaModuloBytes[i];
    rsaModuloBytes[i] = rsaModuloBytes[rsaModuloBytes.length - 1 - i];
    rsaModuloBytes[rsaModuloBytes.length - 1 - i] = temp;
}
// 再转换为BigInteger生成公钥即可
BigInteger rsaModuloNumber = new BigInteger(1, rsaModuloBytes);

如果是通过十六进制字符串构造BigInteger，需要先将模数的十六进制字符串按每两个字符为一组反转顺序，再传入构造方法：

// 反转十六进制字符串的字节顺序工具方法
public static String reverseHexByteOrder(String hex) {
    StringBuilder reversed = new StringBuilder();
    for (int i = hex.length() - 2; i >= 0; i -= 2) {
        reversed.append(hex, i, i + 2);
    }
    return reversed.toString();
}
// 调用示例
BigInteger modulus = new BigInteger(reverseHexByteOrder(modulusHexString), 16);

内容的提问来源于stack exchange，提问作者Nick Pham