Linux环境下RSA解密报BadPaddingException错误的排查咨询

既不是操作系统差异导致，也和主板加密模块无关，核心问题出在Java安全提供者的优先级与OAEP算法默认实现差异上。

原因拆解 #

• 你调用Cipher.getInstance("RSA/ECB/OAEPWithSHA-256AndMGF1Padding")时未指定安全提供者，不同环境下JVM会选择不同的默认提供者：Windows/Mac环境可能默认优先使用BouncyCastle或OracleJDK的实现，而Ubuntu/Docker中的OpenJDK默认使用Sun系的SunRsaSign/SunEC提供者，这些不同实现对OAEP的默认参数（比如MGF1的哈希算法）处理逻辑存在差异，导致解密时填充验证失败。
• 你将BouncyCastle插入到安全提供者列表的末尾（Security.getProviders().length位置），这意味着系统自带的提供者优先级更高，实际解密时并未用到BouncyCastle的实现，和你加密时的环境产生了不兼容。

解决办法 #

1. 显式指定Cipher使用BouncyCastle提供者 #

修改解密代码，在获取Cipher实例时明确指定"BC"提供者：

PrivateKey privateKey = getPrivateKey(publisher);
Cipher decriptCipher = Cipher.getInstance("RSA/ECB/OAEPWithSHA-256AndMGF1Padding", "BC");
decriptCipher.init(Cipher.DECRYPT_MODE, privateKey);
byte[] ansData = decriptCipher.doFinal(decodedString);

2. 调整BouncyCastle的优先级到最高 #

修改静态代码块，将BouncyCastle插入到提供者列表的首位，确保JVM优先使用它：

static {
   Security.insertProviderAt(new org.spongycastle.jce.provider.BouncyCastleProvider(), 1);
}

3. 显式指定OAEP算法参数 #

避免依赖不同提供者的默认参数，手动指定OAEP的哈希算法和MGF1参数，确保加密和解密端参数完全一致：

PrivateKey privateKey = getPrivateKey(publisher);
Cipher decriptCipher = Cipher.getInstance("RSA/ECB/OAEPWithSHA-256AndMGF1Padding");
// 显式指定OAEP参数
OAEPParameterSpec oaepParams = new OAEPParameterSpec(
    "SHA-256", 
    "MGF1", 
    new MGF1ParameterSpec("SHA-256"), 
    PSource.PSpecified.DEFAULT
);
decriptCipher.init(Cipher.DECRYPT_MODE, privateKey, oaepParams);
byte[] ansData = decriptCipher.doFinal(decodedString);

额外验证点 #

请确认加密端（生成密文的代码）使用的算法参数、安全提供者和解密端完全一致——如果加密用了BouncyCastle的实现，解密却用了Sun的实现，即使算法名称相同，也会因参数细节差异导致填充错误。

内容的提问来源于stack exchange，提问作者Bogdan Madzhuga