TypeScript中BigInt超出最大值报错RangeError的问题排查

问题出在你直接计算g ** (q-1n)的方式——这会先生成一个天文数字级别的中间值，完全超出了JavaScript BigInt的内存处理上限。

具体来说，你用的是1024位的安全素数p，q=(p-1)/2就是约512位的大数。g的q-1次方的数值大小相当于2的500多位次方，这个数的位数能达到上百万位，根本不可能在内存中完整存储，所以直接计算g ** (q-1n)必然触发Maximum BigInt size exceeded错误。

虽然数学上g^(q-1) mod p的结果是存在的，但不能先算完整的幂再取模，必须用模幂运算（快速幂）：在每一步乘法操作后都对p取模，始终保持中间值的大小在p的范围内（也就是不超过1024位），这样既不会爆内存，计算效率也极高。

修改后的代码示例 #

自己实现一个快速幂函数来计算模幂：

const crypto = require('crypto');

const dh = crypto.createDiffieHellman(1024);
const p = BigInt(`0x${dh.getPrime().toString('hex')}`);
const g = BigInt(`0x${dh.getGenerator().toString('hex')}`);
const q = (p - 1n)/2n;

// 快速幂实现模幂运算
function modExp(base, exponent, mod) {
  let result = 1n;
  base = base % mod; // 确保base在模范围内
  while (exponent > 0n) {
    // 如果指数是奇数，先乘一次base
    if (exponent % 2n === 1n) {
      result = (result * base) % mod;
    }
    // 指数折半，base平方后取模
    exponent = exponent >> 1n;
    base = (base * base) % mod;
  }
  return result;
}

console.log(g ** 0n % p);
console.log(g ** 1n % p);
console.log(modExp(g, q-1n, p));

这样运行就不会报错，能正确计算出g^(q-1) mod p的结果。

另外，如果你只是想完成Diffie-Hellman相关的计算，也可以直接用crypto模块的内置方法，比如dh.generateKeys()和dh.computeSecret()，这些方法内部已经优化了模幂运算，不需要手动实现。

内容的提问来源于stack exchange，提问作者bs-