SAML EncryptedAssertion解密失败：Error decrypting encrypted key问题排查

异常触发根因 #

该异常本质是解密时私钥无法匹配加密时的公钥/加密规则，导致密文填充位校验失败，常见触发场景如下：

• 密钥对不匹配：IDP加密Assertion使用的SP公钥，与SP侧JKS中加载的私钥不属于同一密钥对；或加载JKS时选错私钥alias、密码输入错误拿到了无效私钥
• 加密填充规则不匹配：IDP加密使用的RSA填充规则（PKCS#1 v1.5/OAEP）与Decrypter默认配置的填充规则不一致
• 加密数据损坏：SAML响应Base64解码、XML解析过程中出现字节丢失/篡改，导致EncryptedAssertion的密文块损坏
• 算法白名单拦截：OpenSAML默认的算法注册中心未包含IDP使用的加密算法，导致解密流程被拦截抛出伪填充错误

对应解决方案 #

1. 密钥有效性校验 #

• 提取IDP侧配置的SP加密公钥证书，与JKS中对应私钥的公钥做MD5/SHA1指纹比对，确认属于同一密钥对
• 执行JKS校验命令验证私钥有效性：
  keytool -list -keystore <你的密钥库路径>.jks -storepass <密钥库密码> -alias <私钥alias>
• 调试确认代码加载到的PrivateKey对象非空，且算法类型为RSA（和加密公钥算法一致）

2. 填充规则对齐 #

• 查看SAML响应中EncryptedAssertion节点下<xenc:EncryptionMethod>的Algorithm属性，确认IDP使用的加密规则：
  • 若为http://www.w3.org/2001/04/xmlenc#rsa-1_5，说明使用PKCS#1 v1.5填充
  • 若为http://www.w3.org/2001/04/xmlenc#rsa-oaep-mgf1p，说明使用OAEP填充
• 构造Decrypter时显式指定对应填充规则，示例代码：

// PKCS#1 v1.5填充配置
decrypter.setRSAOAEPParameters(null);

// OAEP填充配置（以SHA256为例）
RSAOAEPParameters oaepParams = new RSAOAEPParameters(
    EncryptionConstants.ALGO_ID_DIGEST_SHA256,
    EncryptionConstants.ALGO_ID_MGF1_SHA256,
    null
);
decrypter.setRSAOAEPParameters(oaepParams);

3. 密文完整性校验 #

• 打印IDP返回的原始SAML响应与解码后的XML字符串，确认Base64解码、字符转码过程无字节丢失，全程使用UTF-8编码处理响应内容
• 校验Unmarshall后的EncryptedAssertion对象中的密文值，与原始XML中的CipherValue完全一致

4. 算法白名单配置 #

• 初始化Decrypter前先将用到的加密算法注册到全局白名单：

GlobalAlgorithmRegistry registry = GlobalAlgorithmRegistry.getInstance();
// 注册PKCS#1 v1.5算法
registry.register(new RSA1_5EncryptionParametersDescriptor());
// 注册OAEP算法
registry.register(new RSAOAEPEncryptionParametersDescriptor());

内容的提问来源于stack exchange，提问作者Huge_Sky