如何为JWE对象添加OAEPParameterSpec解决HSM解密填充问题？

我之前也碰到过类似的场景——因为客户端HSM的填充要求，需要在服务端用jose4j加密JWE时显式指定OAEP参数。jose4j的默认实现虽然支持RSA-OAEP-256，但确实没有直接暴露设置AlgorithmParameterSpec的API，不过我们可以通过自定义密钥管理算法的方式来解决这个问题。

核心思路 #

jose4j中的RsaOaepAlgorithm是处理RSA-OAEP加密的核心类，我们可以通过继承它并重写获取参数的方法，注入我们需要的OAEPParameterSpec，然后在JWE对象中替换默认的算法实现。

步骤1：自定义RSA-OAEP-256算法实现 #

创建一个继承自RsaOaepAlgorithm的子类，在其中定义我们需要的OAEP参数，并覆盖getAlgorithmParameterSpec方法返回这个自定义参数：

import org.jose4j.jwe.RsaOaepAlgorithm;
import org.jose4j.lang.JoseException;
import java.security.spec.AlgorithmParameterSpec;
import java.security.spec.MGF1ParameterSpec;
import java.security.spec.OAEPParameterSpec;
import java.security.spec.PSource;

public class CustomRsaOaep256Algorithm extends RsaOaepAlgorithm {

    // 定义你需要的OAEP参数
    private static final OAEPParameterSpec CUSTOM_OAEP_SPEC = new OAEPParameterSpec(
            "SHA-256",
            "MGF1",
            MGF1ParameterSpec.SHA256,
            PSource.PSpecified.DEFAULT
    );

    public CustomRsaOaep256Algorithm() {
        // 指定算法名称，保持和标准RSA-OAEP-256一致，确保客户端能识别
        super("RSA-OAEP-256");
    }

    @Override
    protected AlgorithmParameterSpec getAlgorithmParameterSpec() throws JoseException {
        // 返回自定义的参数
        return CUSTOM_OAEP_SPEC;
    }
}

步骤2：在JWE加密时使用自定义算法 #

在服务端创建JWE对象时，替换默认的密钥管理算法为我们自定义的实现：

import org.jose4j.jwe.JsonWebEncryption;
import org.jose4j.keys.RsaJsonWebKey;
import org.jose4j.lang.JoseException;

public class JweEncryptionService {
    public String encryptPayload(String payload, RsaJsonWebKey serverRsaPublicKey) throws JoseException {
        JsonWebEncryption jwe = new JsonWebEncryption();
        
        // 设置要加密的内容
        jwe.setPayload(payload);
        // 设置对称加密算法（根据你的需求选择，比如AES-GCM-128）
        jwe.setEncryptionMethodHeaderParameter("AES-GCM-128");
        // 设置服务端的RSA公钥
        jwe.setKey(serverRsaPublicKey.getPublicKey());
        
        // 替换默认的RSA-OAEP-256算法为自定义实现
        jwe.setKeyManagementAlgorithm(new CustomRsaOaep256Algorithm());

        // 生成加密后的JWE紧凑格式字符串
        return jwe.getCompactSerialization();
    }
}

额外注意事项 #

• 注册BouncyCastle提供商：虽然你不能修改客户端的HSM，但服务端建议注册BouncyCastle作为安全提供商，它对RSA-OAEP的实现更灵活，能更好地匹配HSM的要求：

  import org.bouncycastle.jce.provider.BouncyCastleProvider;
  import java.security.Security;
  
  // 在应用启动时执行一次
  static {
      Security.addProvider(new BouncyCastleProvider());
  }
  

• 参数匹配检查：确保自定义的OAEP参数和客户端HSM的配置完全一致，比如PSource如果HSM用了非默认值，需要对应调整PSource.PSpecified的参数。
• 保持算法头一致：自定义算法的名称必须是标准的RSA-OAEP-256，这样客户端才能识别并使用对应的解密逻辑。

内容的提问来源于stack exchange，提问作者RBis