使用SoftHSM2存储的AES密钥加解密时遇InvalidKeyException问题求助

你的问题核心在于Cipher实例没有绑定SoftHSM对应的PKCS11 Provider，导致默认Provider（比如SunJCE）无法识别PKCS11密钥对象。下面是具体的原因分析和修复方案：

问题根源 #

当你调用Cipher.getInstance("AES")时，JVM会自动选择第一个支持AES的默认Provider（通常是SunJCE）。但这个Provider只能处理它自己生成的AES密钥，无法识别SoftHSM返回的sun.security.pkcs11.P11Key$P11SecretKey类型密钥，因此抛出InvalidKeyException。

而你本地生成密钥能正常工作，是因为那个密钥是SunJCE Provider生成的，和Cipher实例属于同一个Provider体系，自然能兼容处理。

修复步骤 #

1. 创建Cipher时指定SoftHSM的PKCS11 Provider #

在初始化Cipher的时候，必须明确指定你添加的SunPKCS11 Provider，让Cipher使用SoftHSM的加密实现来处理PKCS11密钥：

// 替换原来的Cipher.getInstance("AES")，用你已初始化的Provider对象p
cipher = Cipher.getInstance("AES", p);

2. 明确指定AES的模式和填充（可选但强烈推荐） #

为了避免不同Provider默认模式/填充不一致的问题，建议明确指定完整的加密算法字符串，比如常用的CBC模式+PKCS5填充：

cipher = Cipher.getInstance("AES/CBC/PKCS5Padding", p);

如果选择CBC模式，需要生成并复用初始化向量（IV）：

// 加密时生成随机IV
byte[] iv = new byte[16];
new SecureRandom().nextBytes(iv);
IvParameterSpec ivSpec = new IvParameterSpec(iv);
cipher.init(Cipher.ENCRYPT_MODE, myKey, ivSpec);

// 解密时必须使用加密时生成的同一个IV
cipher.init(Cipher.DECRYPT_MODE, myKey, ivSpec);

3. 修正解密时的PIN错误 #

你的解密代码中误用了PIN："1234"，而创建密钥时设置的PIN是"123456789"，虽然这不是当前异常的直接原因，但后续会导致无法获取密钥，建议统一为正确的PIN：

// 解密时使用和创建密钥一致的PIN
cipher.init(Cipher.DECRYPT_MODE, keyStore.getKey("AESKey1", "123456789".toCharArray()), ivSpec);

修改后的关键代码示例 #

// 初始化Provider和KeyStore
String configName = "C:\\SoftHSM2\\etc\\pkcs11.cfg";
Provider p = new SunPKCS11(configName);
if (-1 == Security.addProvider(p)) {
    throw new RuntimeException("could not add security provider");
}

char[] pin = "123456789".toCharArray();
KeyStore keyStore = KeyStore.getInstance("PKCS11", p);
keyStore.load(null, pin);

// 创建Cipher时指定SoftHSM的Provider
Cipher cipher = Cipher.getInstance("AES/CBC/PKCS5Padding", p);

// 加密流程
SecretKey myKey = (SecretKey) keyStore.getKey("AESKey1", pin);
byte[] plainTextByte = "your plain text".getBytes();
byte[] iv = new byte[16];
new SecureRandom().nextBytes(iv);
IvParameterSpec ivSpec = new IvParameterSpec(iv);
cipher.init(Cipher.ENCRYPT_MODE, myKey, ivSpec);
byte[] encryptedByte = cipher.doFinal(plainTextByte);
String encryptedText = Base64.getEncoder().encodeToString(encryptedByte);

// 解密流程（注意要保存并复用加密时的IV）
Base64.Decoder decoder = Base64.getDecoder();
byte[] encryptedTextByte = decoder.decode(encryptedText);
cipher.init(Cipher.DECRYPT_MODE, myKey, ivSpec);
byte[] decryptedByte = cipher.doFinal(encryptedTextByte);
String decryptedText = new String(decryptedByte);

额外注意事项 #

• 确保pkcs11.cfg中的library路径正确指向softhsm2-x64.dll，避免Provider加载失败。
• 若使用ECB模式（安全性较低，不推荐），可以不用IV，但仍需指定Provider。

内容的提问来源于stack exchange，提问作者tiamat