使用HSM进行RSA OAEP加密时非对称哈希报错问题咨询

核心结论 #

大概率是你的HSM设备不支持哈希算法与MGF1算法不匹配的RSA-OAEP配置，而非代码遗漏了关键步骤。

原因说明 #

RSA-PKCS-OAEP标准本身允许哈希算法（用于计算明文摘要）和MGF1（掩码生成函数）使用的哈希算法不同，但很多HSM厂商为了简化实现、降低安全风险或遵循内部安全规范，会强制要求两者使用相同的哈希算法。你当前的配置中：

• 哈希算法设为CKM_SHA256
• MGF1算法设为CKG_MGF1_SHA1

这种跨哈希算法的组合被你的HSM判定为无效参数，因此返回CKR_MECHANISM_PARAM_INVALID错误。当你将MGF1算法改为CKG_MGF1_SHA256，两者算法一致，符合HSM的校验规则，所以加解密可以正常运行。

你的原始代码配置 #

CK_RSA_PKCS_OAEP_PARAMS p = new CK_RSA_PKCS_OAEP_PARAMS();
p.HashAlg = (uint)CKM.CKM_SHA256;
p.Mgf = (uint)CKG.CKG_MGF1_SHA1;
p.Source = (uint)CKZ.CKZ_DATA_SPECIFIED;
p.SourceData = IntPtr.Zero;
p.SourceDataLen = 0;

CK_MECHANISM mech = CkmUtils.CreateMechanism(CKM.CKM_RSA_PKCS_OAEP, p);

后续建议 #

1. 查阅你所使用HSM的官方文档或PKCS#11功能支持列表，确认是否明确禁止哈希与MGF1算法不一致的OAEP配置。
2. 如果业务场景必须使用哈希与MGF1不同的算法组合，可联系HSM厂商技术支持，确认是否存在隐藏配置项可以开启该支持，或考虑更换支持该组合的HSM设备。
3. 若无特殊业务需求，建议保持哈希算法与MGF1算法一致，这也是当前主流的安全实践方式。

内容的提问来源于stack exchange，提问作者jr pineda