使用OpenSSL BIO解密文件时处理PKCS7 Padding触发段错误的排查

1. BIO链式结构与资源释放错误（段错误核心原因） #

• BIO_push顺序混乱
  你错误地将outputBio加入到解密读链中，混淆了BIO的读写逻辑。cipherBio作为解密处理层，仅需与读取加密数据的inputBio组成读链，outputBio是独立的写入BIO，不需要加入该链。
• 双重释放BIO资源
  由于inputBio已被推到cipherBio的链中，调用BIO_free_all(cipherBio)会自动释放整个链（包含inputBio）。但你后续又调用BIO_free_all(inputBio)，导致inputBio被双重释放，直接触发段错误。

2. Padding移除的逻辑问题 #

• 未验证PKCS7 Padding完整性
  你的removePKCS7Padding函数仅检查最后一个字节的padding值范围，未验证所有padding字节是否等于该值，不符合PKCS7规范，可能导致无效数据被误处理。
• 最后一块判断逻辑不可靠
  使用BIO_pending(cipherBio) == 0判断最后一块并不准确，需结合BIO_read的返回值和文件结束状态综合判断。

修复后的代码 #

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <openssl/bio.h>
#include <openssl/evp.h>
#include <openssl/err.h>

#define INBUFSIZE 1024

void handleErrors(void) {
    fprintf(stderr, "Error occurred.\n");
    ERR_print_errors_fp(stderr);
    exit(EXIT_FAILURE);
}

int removePKCS7Padding(char *buffer, int block_size, int *data_size) {
    if (*data_size < block_size) {
        return 0; // 数据长度不足一个块，无效padding
    }

    int padding_value = (unsigned char)buffer[*data_size - 1];
    if (padding_value < 1 || padding_value > block_size) {
        return 0; // padding值超出合法范围
    }

    // 验证所有padding字节是否符合PKCS7规范
    for (int i = *data_size - padding_value; i < *data_size; i++) {
        if ((unsigned char)buffer[i] != padding_value) {
            return 0;
        }
    }

    *data_size -= padding_value;
    return 1;
}

void decryptAndWriteToFile(const char *inputFileName, const char *outputFileName) {
    BIO *inputBio = BIO_new_file(inputFileName, "rb");
    BIO *outputBio = BIO_new_file(outputFileName, "wb");

    if (!inputBio || !outputBio) {
        perror("Error opening input or output file");
        if (inputBio) BIO_free(inputBio);
        if (outputBio) BIO_free(outputBio);
        exit(EXIT_FAILURE);
    }

    BIO *cipherBio = BIO_new(BIO_f_cipher());
    if (!cipherBio) {
        handleErrors();
    }

    // 设置AES-256-CBC解密模式，密钥和IV需与加密时完全一致
    if (!BIO_set_cipher(cipherBio, EVP_aes_256_cbc(), 
        (unsigned char *)"01234567890123456789012345678901", 
        (unsigned char *)"0123456789012345", 0)) {
        handleErrors();
    }

    // 构建正确的读链：cipherBio -> inputBio（从inputBio读取加密数据，经cipherBio解密后输出）
    BIO_push(cipherBio, inputBio);

    char buffer[INBUFSIZE];
    int bytesRead, decBytes, totalDecBytes = 0;
    int isFinalBlock = 0;

    while (!isFinalBlock) {
        bytesRead = BIO_read(cipherBio, buffer, sizeof(buffer));
        if (bytesRead < 0) {
            handleErrors();
        } else if (bytesRead == 0) {
            isFinalBlock = 1;
            break;
        }

        // 判断是否为最后一块：读取字节数小于缓冲区大小，且BIO无待读取数据
        if (bytesRead < sizeof(buffer) && BIO_pending(cipherBio) == 0) {
            if (!removePKCS7Padding(buffer, EVP_CIPHER_block_size(EVP_aes_256_cbc()), &bytesRead)) {
                fprintf(stderr, "Invalid PKCS7 padding\n");
                handleErrors();
            }
        }

        decBytes = BIO_write(outputBio, buffer, bytesRead);
        if (decBytes <= 0) {
            handleErrors();
        }
        totalDecBytes += decBytes;
    }

    printf("Decryption complete. Total decrypted bytes: %d\n", totalDecBytes);

    // 释放资源：cipherBio链包含inputBio，只需释放cipherBio和outputBio
    BIO_free_all(cipherBio);
    BIO_free(outputBio);
}

int main(void) {
    OpenSSL_add_all_algorithms();
    ERR_load_BIO_strings();

    decryptAndWriteToFile("encrypted_output2.bin", "decrypted_output2.txt");

    EVP_cleanup();
    ERR_free_strings();

    return 0;
}

额外注意事项 #

• 生产环境禁止使用固定密钥和IV，应生成随机IV并随加密数据一同存储（IV无需保密）。
• 排查BIO错误时，可使用BIO_get_error获取具体错误码，提升问题定位精度。

内容的提问来源于stack exchange，提问作者rguibuesretpo