使用GnuTLS库导入DER编码私钥失败求助

让我来帮你排查这个问题，你的代码里确实有几个导致DER解析失败的关键问题，我来逐一说明并给出修复方案：

问题分析 #

• 文件打开模式错误：DER是二进制格式的文件，你使用文本模式"r"打开会导致问题——在部分操作系统（比如Windows）中，文本模式会自动转换换行符，甚至会把二进制中的0x1A字符误判为EOF截断数据。必须用二进制模式"rb"打开文件。
• 错误添加EOF终止符：key_der[i] = EOF;这一步完全多余且有害。EOF是int类型（通常值为-1），写入char数组会破坏原始的二进制DER数据。GNUTLS通过gnutls_datum_t的size字段来确定数据长度，不需要字符串终止符。
• 缓冲区溢出风险：你硬编码了key_der[1675]的长度，如果你的DER私钥文件超过这个大小，会导致缓冲区溢出，破坏数据完整性。

修正后的代码 #

#include <stdio.h>
#include <stdlib.h>
#include <gnutls/gnutls.h>
#include <gnutls/x509.h>
#include <gnutls/abstract.h>

int main() {
    gnutls_x509_privkey_t pkey;
    int ret;
    gnutls_datum_t key;
    FILE *fptr;
    long file_size;
    unsigned char *key_der = NULL; // 改用动态分配内存避免溢出

    // 初始化私钥结构体
    ret = gnutls_x509_privkey_init(&pkey);
    if (ret < 0) {
        printf("gnutls_x509_privkey_init: %d\n", ret);
        return 1;
    }

    // 以二进制模式打开文件
    if ((fptr = fopen("<privatekey_filename>.der", "rb")) == NULL) {
        printf("Error! opening file\n");
        gnutls_x509_privkey_deinit(pkey);
        exit(1);
    }

    // 获取文件大小
    fseek(fptr, 0, SEEK_END);
    file_size = ftell(fptr);
    fseek(fptr, 0, SEEK_SET);

    // 动态分配内存存储DER数据
    key_der = malloc(file_size);
    if (key_der == NULL) {
        printf("Error allocating memory\n");
        fclose(fptr);
        gnutls_x509_privkey_deinit(pkey);
        exit(1);
    }

    // 一次性读取全部文件内容（比逐字符读取更高效）
    size_t bytes_read = fread(key_der, 1, file_size, fptr);
    if (bytes_read != file_size) {
        printf("Error reading file: read %zu bytes out of %ld\n", bytes_read, file_size);
        free(key_der);
        fclose(fptr);
        gnutls_x509_privkey_deinit(pkey);
        exit(1);
    }

    // 设置gnutls_datum_t结构
    key.data = key_der;
    key.size = file_size;

    // 导入DER私钥
    ret = gnutls_x509_privkey_import2(pkey, &key, GNUTLS_X509_FMT_DER, NULL, 0);
    if (ret < 0) {
        printf("\nret value = %d\n", ret);
        printf("gnutls_x509_privkey_import2: %s\n", gnutls_strerror(ret));
    } else {
        printf("DER私钥导入成功！\n");
    }

    // 清理资源
    free(key_der);
    fclose(fptr);
    gnutls_x509_privkey_deinit(pkey);

    return 0;
}

其他解析DER文件的方法（不使用gnutls_load_file） #

如果你不想用动态分配内存，也可以用固定缓冲区但先确认文件大小不超过缓冲区，或者继续用逐字符读取但修正模式和去掉EOF写入：

// 示例：逐字符读取的修正版本（需确保缓冲区足够大）
char key_der[2048]; // 增大缓冲区预留空间
int i = 0;
int c; // 用int存储fgetc的返回值，避免把0xFF误判为EOF
while ((c = fgetc(fptr)) != EOF) {
    if (i >= sizeof(key_der) - 1) { // 防止溢出
        printf("Buffer overflow!\n");
        exit(1);
    }
    key_der[i] = (char)c;
    i++;
}
// 不要添加key_der[i] = EOF;
key.data = key_der;
key.size = i;

额外验证步骤 #

如果修正后还是报错，建议先验证你的DER文件是否有效：

openssl asn1parse -in privatekey.der -inform DER

如果命令能正常输出ASN.1结构，说明文件没问题；如果报错，那是你的DER文件本身损坏或者不是有效的X509私钥。

内容的提问来源于stack exchange，提问作者Lucid lynx