Node.js v8 crypto模块与OpenSSL C++ RSA双向握手兼容问题咨询

我太懂这种卡壳的感觉了！跨语言做RSA加密解密，往往就是那些不起眼的细节参数没对齐，导致单向能通、反向不行。结合你说的情况——C用RSA_PKCS1_OAEP_PADDING加密的内容Node.js能解，但Node.js加密后C解不了，大概率是下面几个地方出了问题，咱们一个个排查：

1. 加密填充与哈希函数必须完全匹配 #

你C端用的是RSA_PKCS1_OAEP_PADDING，这就要求Node.js加密时必须严格对应同样的填充方式，尤其是OAEP依赖的哈希函数——OpenSSL默认的OAEP哈希是SHA-1（如果你的C用的是旧版OpenSSL的话），但Node.js的crypto.publicEncrypt默认可能不是这个，必须手动指定。

给你个Node.js端的正确加密示例：

const crypto = require('crypto');

// 注意：C++的公钥必须是标准PEM格式（带BEGIN/END头）
const cppPublicKey = `-----BEGIN PUBLIC KEY-----
MIIBIjANBgkqhkiG9w0BAQEFAAOCAQ8AMIIBCgKCAQEA...（你的公钥内容）
-----END PUBLIC KEY-----`;

const plaintextToCpp = '要发给C++的明文内容';
const encryptedBuffer = crypto.publicEncrypt(
  {
    key: cppPublicKey,
    padding: crypto.constants.RSA_PKCS1_OAEP_PADDING,
    oaepHash: 'sha1' // 这里必须和C++端的哈希函数一致！
  },
  Buffer.from(plaintextToCpp, 'utf8')
);

// 建议转成base64传输，避免二进制传输的编码问题
const encryptedBase64 = encryptedBuffer.toString('base64');
// 把encryptedBase64发给C++端

2. C++端解密的参数要跟加密端对齐 #

Node.js发过来的密文，C++解密时必须用同样的RSA_PKCS1_OAEP_PADDING填充，还要注意密文的编码（如果Node.js发的是base64，先解码成二进制）。示例代码：

#include <openssl/rsa.h>
#include <openssl/pem.h>
#include <openssl/err.h>
#include <string>
#include <vector>
#include <iostream>

// 假设已经拿到Node.js发过来的base64密文
std::string nodeEncryptedBase64 = "...";
// 先把base64转成二进制（这里需要自己实现base64解码，或者用OpenSSL的函数）
std::vector<unsigned char> cipher = base64_decode(nodeEncryptedBase64);

// 你的C++私钥（clusterpri）
RSA* clusterpri = ...;

unsigned char plain[RSA_size(clusterpri)];
int plainLen = RSA_private_decrypt(
  cipher.size(), 
  cipher.data(), 
  plain, 
  clusterpri, 
  RSA_PKCS1_OAEP_PADDING // 必须和加密端一致
);

if (plainLen == -1) {
  // 解密失败时打印OpenSSL错误，快速定位问题
  ERR_print_errors_fp(stderr);
} else {
  std::string plaintext((char*)plain, plainLen);
  std::cout << "解密成功：" << plaintext << std::endl;
}

3. 容易踩的坑点 #

• 哈希函数不匹配：如果你的C用的是SHA-256而非默认的SHA-1，那Node.js里的oaepHash要改成'sha256'，同时C端也要确保加密解密用的是同一哈希（可以用EVP_PKEY_encrypt/EVP_PKEY_decrypt更明确地指定哈希）。
• 密钥格式错误：Node.js要求公钥是PEM格式，如果你C++的公钥是DER二进制格式，得先转成PEM（用PEM_write_RSA_PUBKEY导出）。
• 传输编码问题：二进制密文直接传输容易被截断或转码，建议两端统一用base64编码传输，避免不必要的麻烦。
• 密文长度不对：RSA加密后的密文长度等于密钥长度（比如2048位密钥对应256字节），如果C++收到的密文长度不对，先检查传输过程中有没有丢包或编码错误。

内容的提问来源于stack exchange，提问作者Dr.Knowitall