OpenSSL客户端信任自签名CA证书失败，握手报Unknown CA错误求助

看起来你已经走了大部分正确的流程，但这个错误通常是因为客户端没有正确将CA证书加入信任根存储，或者服务器证书链不完整导致的。咱们一步步排查：

1. 客户端加载CA证书的方式错误（最可能的原因） #

你提到用SSL_CTX_use_certificate_file加载CA.pem到客户端，但这个函数是用来加载客户端自己的身份证书（当服务器需要验证客户端身份时用的），而不是用来添加信任的根CA。正确的做法是用SSL_CTX_load_verify_locations来指定客户端信任的CA证书：

// 替换你原来的SSL_CTX_use_certificate_file调用
if (SSL_CTX_load_verify_locations(ctx, "CA.pem", NULL) != 1) {
    // 处理错误：比如打印ERR_get_error()的信息定位问题
}

这个函数会把CA.pem中的证书加入客户端的信任列表，这样客户端验证服务器证书时，就能识别出由这个CA签发的服务器证书了。

2. 检查服务器是否发送了完整的证书链 #

有时候即使客户端信任CA，但服务器只发送了自己的证书，没有附带CA证书（虽然自签名CA场景下客户端已信任CA，理论上不需要，但部分TLS实现可能要求完整链）。你可以用以下命令验证服务器证书链：

openssl s_client -connect your_server_ip:port -CAfile CA.pem

如果输出显示Verify return code: 0 (ok)，说明链没问题；如果仍报Unknown CA，可以把服务器证书和CA证书合并成一个文件（服务器证书在前，CA证书在后），然后用SSL_CTX_use_certificate_chain_file加载合并后的文件：

// 替换原来的SSL_CTX_use_certificate_file调用
if (SSL_CTX_use_certificate_chain_file(ctx, "server_plus_ca.pem") != 1) {
    // 处理错误
}

3. 验证CA证书和服务器证书的有效性 #

先检查CA证书是否为完整的有效PEM格式：

openssl x509 -in CA.pem -text -noout

如果能正常输出证书详细信息，说明CA证书没问题。再验证服务器证书是否确实由目标CA签发：

openssl verify -CAfile CA.pem server.pem

如果输出server.pem: OK，说明签发流程有效；若有错误，可能是签发时CA私钥与证书不匹配，或是CSR信息有误。

4. 检查客户端的SSL_CTX验证配置 #

确保客户端开启了正确的验证模式，且未错误覆盖信任列表：

// 开启对服务器的peer验证
SSL_CTX_set_verify(ctx, SSL_VERIFY_PEER, NULL);
// 设置验证深度（默认9足够覆盖自签名CA场景）
SSL_CTX_set_verify_depth(ctx, 9);

如果之前设置了自定义验证回调函数，要确认回调没有错误拒绝合法的CA证书。

补充：回顾证书生成脚本 #

你的服务器证书生成脚本中，openssl x509命令使用CA/CA.pem和CA/CA作为CA证书和私钥，要确保路径正确，生成的服务器证书确实是客户端使用的那套CA.pem签发的，而非其他CA文件。

内容的提问来源于stack exchange，提问作者Maloux