使用RSA解密CTF README文件时遇IllegalBlockSizeException求助

核心原因 #

你的RSA密钥是4096位的，按照PKCS#1 v1.5 padding规则，最大可解密的明文长度为4096/8 - 11 = 501字节。报错提示数据超过512字节，说明你大概率犯了以下两个错误之一：

• 直接用RSA私钥解密整个大文件（比如完整README）——RSA设计初衷是加密/解密小数据（如对称密钥），不适合处理大体积内容；
• 解密的内容不是合法的RSA密文（比如误把明文当密文，或密文包含多余字符、格式错误）。

解决步骤 #

1. 提取合法的RSA密文片段 #

先检查你的README文件，找到单独的密文部分：

• RSA密文通常是Base64编码，可能带有-----BEGIN ENCRYPTED MESSAGE-----这类标识，或纯Base64字符串；
• 把这段密文单独复制出来，确保没有多余的换行、空格或注释内容。

2. 使用OpenSSL正确解密 #

假设私钥保存为private.key，提取的密文保存为cipher.b64：

• 方式一：分两步转换解密

  # Base64解码密文为二进制
  openssl base64 -d -in cipher.b64 -out cipher.bin
  # 私钥解密
  openssl rsautl -decrypt -inkey private.key -in cipher.bin -out result.txt
  

• 方式二：一步到位解密Base64密文

  openssl rsautl -decrypt -inkey private.key -in cipher.b64 -base64 -out result.txt
  

3. 应对CTF常见的混合加密场景 #

如果README是RSA加密对称密钥 + 对称加密文件内容的常见模式：

• 先解密出对称密钥（比如AES密钥）；
• 再用这个对称密钥，通过AES等算法解密整个README的加密内容。

4. CyberChef操作注意事项 #

• 先添加From Base64模块解码密文；
• 再添加RSA Decrypt模块，导入你的私钥，选择PKCS#1 v1.5 padding（CTF场景最常用）；
• 确保输入的密文是纯解码后的二进制数据，没有多余内容。

内容的提问来源于stack exchange，提问作者Phil31