OpenSSL HTTPS服务器出现SSL_ERROR_NO_CYPHER_OVERLAP错误求助

问题背景 #

• 运行环境：Ubuntu 22.04.2 LTS，OpenSSL 3.0.2 15
• 实现：C语言后端HTTPS服务器
• 证书来源：Let's Encrypt通过Certbot手动DNS CNAME挑战颁发
• 异常表现：Firefox频繁触发SSL_ERROR_NO_CYPHER_OVERLAP错误，Chrome偶尔出现；已尝试设置最低TLS版本为1.3、切换TLS_server_method/SSLv23_server_method，问题未解决
• 编译命令：gcc -o server server.c -lssl -lcrypto -pthread

排查与解决步骤 #

1. 显式指定兼容的TLS 1.3密码套件 #

OpenSSL 3.0中TLS 1.3的密码套件配置需使用SSL_CTX_set_ciphersuites（SSL_CTX_set_cipher_list仅适用于TLS 1.2及以下版本）。若强制仅启用TLS 1.3，需确保指定浏览器支持的套件组合：

// 创建SSL_CTX后添加以下配置
SSL_CTX_set_min_proto_version(ctx, TLS1_3_VERSION);
SSL_CTX_set_max_proto_version(ctx, TLS1_3_VERSION);

// 指定Firefox/Chrome兼容的TLS1.3密码套件
const char* tls13_ciphers = "TLS_AES_256_GCM_SHA384:TLS_CHACHA20_POLY1305_SHA256:TLS_AES_128_GCM_SHA256";
if (SSL_CTX_set_ciphersuites(ctx, tls13_ciphers) != 1) {
    ERR_print_errors_fp(stderr);
    exit(EXIT_FAILURE);
}

2. 兼容TLS 1.2（非强制TLS1.3场景） #

若需同时支持TLS 1.2和1.3，需分别配置对应版本的密码套件：

// 设置支持的TLS版本范围
SSL_CTX_set_min_proto_version(ctx, TLS1_2_VERSION);
SSL_CTX_set_max_proto_version(ctx, TLS1_3_VERSION);

// 配置TLS1.2及以下兼容的密码套件
const char* tls12_ciphers = "ECDHE-ECDSA-AES256-GCM-SHA384:ECDHE-RSA-AES256-GCM-SHA384:ECDHE-ECDSA-CHACHA20-POLY1305:ECDHE-RSA-CHACHA20-POLY1305:ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256";
if (SSL_CTX_set_cipher_list(ctx, tls12_ciphers) != 1) {
    ERR_print_errors_fp(stderr);
    exit(EXIT_FAILURE);
}

// 配置TLS1.3密码套件
const char* tls13_ciphers = "TLS_AES_256_GCM_SHA384:TLS_CHACHA20_POLY1305_SHA256:TLS_AES_128_GCM_SHA256";
if (SSL_CTX_set_ciphersuites(ctx, tls13_ciphers) != 1) {
    ERR_print_errors_fp(stderr);
    exit(EXIT_FAILURE);
}

3. 验证证书链完整性 #

Let's Encrypt证书需加载完整链（服务器证书+中间证书），仅加载服务器证书会导致浏览器验证失败，间接引发密码套件协商异常。确保代码中正确加载证书链：

// 加载包含服务器证书与中间证书的fullchain.pem文件
if (SSL_CTX_use_certificate_chain_file(ctx, "/path/to/fullchain.pem") != 1) {
    ERR_print_errors_fp(stderr);
    exit(EXIT_FAILURE);
}

// 加载私钥文件
if (SSL_CTX_use_PrivateKey_file(ctx, "/path/to/privkey.pem", SSL_FILETYPE_PEM) != 1) {
    ERR_print_errors_fp(stderr);
    exit(EXIT_FAILURE);
}

// 验证私钥与证书匹配性
if (SSL_CTX_check_private_key(ctx) != 1) {
    fprintf(stderr, "私钥与公钥证书不匹配\n");
    exit(EXIT_FAILURE);
}

4. 排除系统级OpenSSL配置干扰 #

Ubuntu 22.04的OpenSSL 3.0系统配置文件（/etc/ssl/openssl.cnf）可能限制密码套件或协议版本，覆盖代码中的设置。可在代码中禁用系统默认配置的影响：

// 初始化SSL时禁用系统默认配置
OPENSSL_init_ssl(OPENSSL_INIT_LOAD_SSL_STRINGS | OPENSSL_INIT_LOAD_CRYPTO_STRINGS, NULL);
SSL_CTX* ctx = TLS_server_method();

// 强制禁用低版本协议，仅保留TLS1.2+
SSL_CTX_set_options(ctx, SSL_OP_NO_SSLv2 | SSL_OP_NO_SSLv3 | SSL_OP_NO_TLSv1 | SSL_OP_NO_TLSv1_1);

5. 调试密码套件协商过程 #

使用OpenSSL命令行工具模拟连接，确认服务器端支持的套件与浏览器是否匹配：

# 测试TLS1.3连接并查看套件协商情况
openssl s_client -connect your-domain:443 -tls1_3

# 查看所有协议版本下的套件与证书信息
openssl s_client -connect your-domain:443 -showcerts

若命令行连接也失败，说明服务器配置存在问题；若命令行成功，可尝试在Firefox安全模式下测试（排除插件/缓存干扰）。

内容的提问来源于stack exchange，提问作者Jigsaw