FIPS模式与非FIPS模式下TLS 1.2密码套件列表收集及异常问题咨询

让我帮你拆解一下这个问题——你遇到的核心问题应该是FIPS模式没有真正生效，或者初始化/配置环节有遗漏，导致密码套件列表没被过滤。下面是几个关键的排查点和修复建议：

1. 先确认FIPS模式是否真的启用成功 #

你现在只是调用了FIPS_mode_set(1)，但完全没检查返回值！这个函数如果调用失败（比如FIPS模块没安装、权限问题、依赖缺失），会返回0，但程序不会主动报错，相当于白调用了。

赶紧加一段错误检查代码，确认启用状态：

if (FIPS_mode_set(1) != 1) {
    char err_buf[256];
    ERR_error_string_n(ERR_get_error(), err_buf, sizeof(err_buf));
    fprintf(stderr, "Failed to enable FIPS mode: %s\n", err_buf);
    exit(EXIT_FAILURE);
}

另外要注意：OpenSSL 1.0.2e的FIPS模块是单独安装的，不是默认自带的。如果你用的是系统自带的OpenSSL库，大概率没有包含FIPS模块，必须手动编译带FIPS的版本，或者安装专门的FIPS合规包。

2. 初始化顺序完全搞反了！ #

你当前的执行顺序是：

SSL_library_init() → OpenSSL_add_all_algorithms() → FIPS_mode_set(1)

这是错误的！FIPS模式需要先启用，再初始化SSL库和加载算法。因为SSL_library_init()会加载所有非FIPS的算法实现，如果你先初始化再开FIPS，这些非合规算法已经被加载到内存里了，FIPS的限制根本起不到作用。

正确的顺序应该是：

// 第一步：先启用FIPS模式（必须最先执行）
if (FIPS_mode_set(1) != 1) {
    // 错误处理逻辑
}
// 第二步：初始化SSL库和算法
SSL_library_init();
OpenSSL_add_all_algorithms();
// 第三步：创建SSL上下文、绑定套接字等后续操作
SSL_CTX *ctx = SSL_CTX_new(TLSv1_2_client_method());

3. 显式指定FIPS合规的密码套件 #

即使FIPS模式启用了，OpenSSL 1.0.2e的默认密码套件列表可能不会自动严格过滤非合规项，或者服务端未启用FIPS，导致协商时选到非合规套件。

建议在客户端和服务端的SSL上下文里显式指定FIPS批准的密码套件：

// 设置只使用FIPS合规的密码套件，安全级别适配TLS 1.2
if (SSL_CTX_set_cipher_list(ctx, "FIPS@SECLEVEL=1") != 1) {
    fprintf(stderr, "Failed to set FIPS cipher list\n");
    exit(EXIT_FAILURE);
}

这个配置字符串会强制OpenSSL只使用FIPS 140-2批准的密码套件，自动排除所有非合规算法。

4. 不要只依赖抓包：检查实际协商的套件 #

你抓包看到的客户端Hello里的套件列表，只是客户端发送的候选，但最终协商的套件是双方共同支持的。如果只有客户端开了FIPS，服务端没开，服务端依然会返回包含非FIPS套件的列表，客户端可能会选到非合规的。

另外，连接建立后用SSL_get_cipher()打印实际使用的套件，比抓包更准确：

SSL *ssl = SSL_new(ctx);
// 完成套接字绑定、握手流程后
printf("Negotiated cipher suite: %s\n", SSL_get_cipher(ssl));

然后可以对照OpenSSL的FIPS合规列表确认（比如AES-GCM、3DES-CBC是合规的，RC4、非FIPS版本的ChaCha20是不合规的）。

内容的提问来源于stack exchange，提问作者Praffulla Pandey