为何EVP_PKEY_decrypt_init无法复用RSA密钥生成时的CTX？

当前初始化方式的正确性 #

你当前的实现是正确的：销毁用于密钥生成的旧ctx，重新创建关联新密钥对的ctx并初始化解密，完全符合OpenSSL的使用规则，能保证解密正常工作。但这种方式存在冗余——没必要销毁重建ctx，我们可以复用原ctx完成模式切换。

直接用旧ctx触发段错误的原因 #

OpenSSL的EVP_PKEY_CTX是操作模式绑定的：当你调用EVP_PKEY_keygen_init后，这个ctx的内部状态就被锁定为「密钥生成模式」，所有后续配置都是针对密钥生成的。强行在这个ctx上调用EVP_PKEY_decrypt_init会导致内部状态混乱，直接触发段错误。

复用原ctx完成解密初始化的方案 #

可以通过EVP_PKEY_CTX_reset重置ctx状态，再重新关联密钥并初始化解密，无需销毁重建。修改后的代码如下：

bool generateKeyPair() override
{
    if (_keypair)
    {
        EVP_PKEY_free(_keypair);
        _keypair = nullptr;
    }

    if (!_ctx)
    {
        _ctx = EVP_PKEY_CTX_new_id(EVP_PKEY_RSA, nullptr);
        if (!_ctx)
        {
            logError("Failed to create EVP_PKEY_CTX.");
            return false;
        }
        logDebug("ctx created successfully.");
    }

    if (EVP_PKEY_keygen_init(_ctx) <= 0)
    {
        logError("Failed to initialize EVP_PKEY_CTX.");
        return false;
    }

    if (EVP_PKEY_CTX_set_rsa_keygen_bits(_ctx, 2048) <= 0)
    {
        logError("Failed to set RSA key size.");
        return false;
    }

    if (EVP_PKEY_keygen(_ctx, &_keypair) <= 0)
    {
        logError("Failed to generate RSA key pair.");
        return false;
    }

    // 重置ctx状态，清除密钥生成模式的配置
    if (EVP_PKEY_CTX_reset(_ctx) <= 0)
    {
        logError("Failed to reset EVP_PKEY_CTX.");
        EVP_PKEY_free(_keypair);
        _keypair = nullptr;
        return false;
    }

    // 将ctx关联到新生成的密钥对
    if (EVP_PKEY_CTX_set_pkey(_ctx, _keypair) <= 0)
    {
        logError("Failed to bind key to EVP_PKEY_CTX.");
        EVP_PKEY_free(_keypair);
        _keypair = nullptr;
        return false;
    }

    // 初始化解密模式
    if (EVP_PKEY_decrypt_init(_ctx) <= 0)
    {
        logError("Failed to initialize RSA decryption.");
        EVP_PKEY_free(_keypair);
        _keypair = nullptr;
        return false;
    }

    return true;
}

关键函数说明 #

• EVP_PKEY_CTX_reset：重置ctx的内部状态，清除之前的操作模式配置，将ctx恢复到初始可用状态。
• EVP_PKEY_CTX_set_pkey：将指定的密钥对关联到ctx，后续操作都会基于这个密钥执行。

这样修改后，既保留了原ctx的复用，又避免了销毁重建的冗余操作，同时保证解密功能正常工作。

内容的提问来源于stack exchange，提问作者milad lashini