OpenSSL 1.1.1 TLS1.3下send/recv函数网络包读取异常问题

问题背景 #

我们基于OpenSSL 1.1.1将安全层从TLS 1.2升级到TLS 1.3后，遇到了明显的兼容性问题：原有代码中完成SSL握手后直接用send()/recv()传输数据的逻辑，在TLS 1.2下完全正常，但切换到TLS 1.3后彻底失效——不仅无法正常接收数据包，测试示例里还出现了数据包延迟：客户端首次请求的响应为空，后续请求返回的居然是前一次请求的结果。只有改用SSL_write()/SSL_read()才能正常工作。

问题根源 #

这不是OpenSSL的bug，而是TLS 1.3的设计特性和OpenSSL 1.1.1对它的实现逻辑导致的：

• TLS 1.3的握手与数据传输深度绑定：TLS 1.3支持0-RTT/1-RTT握手，握手过程中就可以附带应用数据，这些数据由OpenSSL的SSL会话层统一加密、分片、重组。直接调用系统send()/recv()会绕过SSL层的解密和状态管理，导致数据无法被正确解析。
• OpenSSL对TLS 1.3的socket管控更严格：TLS 1.3下，OpenSSL会接管socket的读写缓冲区和状态维护，直接操作socket会打乱SSL层的内部缓存队列，引发数据乱序、延迟甚至丢失。
• 缓冲区同步问题：TLS 1.3的SSL层有独立的发送/接收缓冲区，直接用send()/recv()操作socket会让SSL缓冲区和系统socket缓冲区的数据不同步，出现“前一次数据被留在SSL缓冲区，后续操作才被读取”的滞后现象。

解决方案 #

1. 全面替换系统socket调用为SSL层API #

所有应用数据的传输必须通过OpenSSL提供的SSL会话接口，不能直接操作socket：

• 发送数据：用SSL_write(ssl, buf, len)替代send(fd, buf, len, flags)
• 接收数据：用SSL_read(ssl, buf, len)替代recv(fd, buf, len, flags)

举个客户端接收逻辑的修正示例：

// 原错误代码（TLS1.2可用，TLS1.3失效）
char recv_buf[1024];
ssize_t recv_len = recv(client_sock, recv_buf, sizeof(recv_buf), 0);

// 修正后代码（兼容TLS1.2和TLS1.3）
char recv_buf[1024];
ssize_t recv_len = SSL_read(ssl_handle, recv_buf, sizeof(recv_buf));
if (recv_len <= 0) {
    int ssl_err = SSL_get_error(ssl_handle, recv_len);
    if (ssl_err == SSL_ERROR_ZERO_RETURN) {
        // SSL会话正常关闭
        close(client_sock);
        SSL_free(ssl_handle);
    } else {
        // 处理其他SSL错误，比如连接中断、解密失败等
        fprintf(stderr, "SSL read error: %d\n", ssl_err);
    }
}

2. 确保握手完全完成后再传输数据 #

TLS 1.3握手速度更快，但仍需确认握手彻底完成后再发送应用数据，避免握手过程中的数据干扰：

// 客户端握手示例
int handshake_ret = SSL_connect(ssl_handle);
if (handshake_ret != 1) {
    int ssl_err = SSL_get_error(ssl_handle, handshake_ret);
    fprintf(stderr, "Handshake failed: %d\n", ssl_err);
    // 根据错误类型处理，比如重试或终止连接
    exit(EXIT_FAILURE);
}

// 服务端握手示例
int handshake_ret = SSL_accept(ssl_handle);
if (handshake_ret != 1) {
    int ssl_err = SSL_get_error(ssl_handle, handshake_ret);
    fprintf(stderr, "Handshake failed: %d\n", ssl_err);
    close(client_sock);
    SSL_free(ssl_handle);
    continue;
}

3. 检查OpenSSL配置的TLS 1.3兼容性 #

确认openssl_1.1.1_perl_dump.txt配置中正确启用了TLS 1.3：

• 确保Protocols配置项包含TLSv1.3
• 移除或调整与TLS 1.3冲突的旧参数（比如强制禁用0-RTT但代码依赖该特性）

4. 清理所有残留的直接socket操作 #

检查代码中所有直接操作socket的逻辑，统一替换为SSL层接口：

• 超时处理：用SSL_CTX_set_timeout(ssl_ctx, timeout_sec)替代setsockopt()设置SO_RCVTIMEO/SO_SNDTIMEO
• 数据读写：确保所有应用数据都通过SSL通道传输，绝不绕过SSL层

验证步骤 #

1. 运行修正后的代码，确认TLS 1.3下首次请求即可正常获取响应，无延迟现象
2. 用openssl s_client -connect your_host:your_port -tls1_3命令测试服务端的TLS 1.3会话，确认握手和数据传输正常
3. 开启OpenSSL调试日志（设置SSL_CTX_set_mode(ssl_ctx, SSL_MODE_DEBUG)），排查是否还有未处理的SSL层异常

内容的提问来源于stack exchange，提问作者amitfreeman