Java SSLServerSocket如何要求客户端证书并接受任意自签名证书

问题根因 #

你遇到的SSLPeerUnverifiedException: peer not authenticated报错，本质是Java默认TLS实现做客户端证书校验时，会强制用信任库中配置的CA根证书对客户端发来的证书做链校验。由于你没有在服务端信任库存放对应信任CA，校验直接失败，握手阶段就会拒绝客户端连接，自然无法拿到客户端证书。
要实现「强制客户端提供证书、但接受任意自签名客户端证书」的需求，核心是替换服务端侧的证书信任管理器，绕开默认的CA链校验逻辑，同时保留TLS握手的证书请求流程。

具体实现步骤 #

• 自定义服务端专用的信任管理器
  这个信任管理器只负责跳过客户端证书的默认CA链校验，不要和客户端侧的信任逻辑混用。注意getAcceptedIssuers方法必须返回空数组，不能返回null，否则会导致握手阶段证书请求消息格式异常，部分客户端不会主动发送证书。

import javax.net.ssl.X509TrustManager;
import java.security.cert.CertificateException;
import java.security.cert.X509Certificate;

public class PermissiveClientAuthTrustManager implements X509TrustManager {
    @Override
    public void checkClientTrusted(X509Certificate[] chain, String authType) throws CertificateException {
        // 默认不做CA链校验，直接放行所有客户端证书
        // 后续实现Syncthing自定义认证逻辑时，直接在这里加证书指纹/公钥比对即可，校验不通过直接抛CertificateException终止握手
    }

    @Override
    public void checkServerTrusted(X509Certificate[] chain, String authType) throws CertificateException {
        // 服务端侧无需校验自身证书，留空即可
    }

    @Override
    public X509Certificate[] getAcceptedIssuers() {
        // 必须返回空数组，禁止返回null
        return new X509Certificate[0];
    }
}

• 服务端初始化SSL上下文时加载自定义信任管理器
  服务端自身的密钥库（存放服务端自签名证书）还是按原有逻辑正常加载，只替换信任管理器部分即可。

import javax.net.ssl.*;
import java.io.FileInputStream;
import java.security.KeyStore;

// 加载服务端自身的密钥库（存储你的服务端自签名证书）
KeyStore serverKeyStore = KeyStore.getInstance("PKCS12");
try (FileInputStream fis = new FileInputStream("path/to/your/server-keystore.p12")) {
    serverKeyStore.load(fis, "your_keystore_password".toCharArray());
}

KeyManagerFactory kmf = KeyManagerFactory.getInstance(KeyManagerFactory.getDefaultAlgorithm());
kmf.init(serverKeyStore, "your_key_password".toCharArray());

// 初始化TLS上下文，注入自定义信任管理器
SSLContext sslContext = SSLContext.getInstance("TLSv1.3");
sslContext.init(
    kmf.getKeyManagers(),
    new TrustManager[]{new PermissiveClientAuthTrustManager()},
    null
);

// 创建ServerSocket并开启强制客户端认证
SSLServerSocketFactory socketFactory = sslContext.getServerSocketFactory();
SSLServerSocket serverSocket = (SSLServerSocket) socketFactory.createServerSocket(8443);
serverSocket.setNeedClientAuth(true);

• 握手完成后获取客户端证书
  接受连接后先显式触发TLS握手完成，再从会话中取客户端证书，避免握手未完成导致的取值异常。

SSLSocket clientSocket = (SSLSocket) serverSocket.accept();
// 显式触发握手完成
clientSocket.startHandshake();
SSLSession session = clientSocket.getSession();

// 此时可正常获取客户端证书，不会再抛出未认证异常
X509Certificate[] clientCertChain = (X509Certificate[]) session.getPeerCertificates();
X509Certificate clientCert = clientCertChain[0];
// 在这里执行你的自定义证书校验逻辑即可

注意事项 #

• 不要直接复用网上流传的「全放行TrustManager」覆盖客户端侧的校验逻辑，这个自定义信任管理器仅在服务端做客户端认证时使用，避免降低客户端侧的连接安全性。
• 直接放行所有客户端证书仅适用于你要做自定义认证的场景，后续必须补上自己的身份校验逻辑（比如Syncthing用的设备证书公钥哈希比对），否则连接无任何身份防护，存在中间人攻击风险。
• 你之前测试时遇到的「要么配根CA、要么不认证」的问题，就是默认信任管理器的逻辑导致的：默认信任管理器在信任库为空时虽然会返回空的可接受CA列表，但checkClientTrusted方法会直接抛出校验失败异常，拒绝所有不带信任链的客户端证书。

内容的提问来源于stack exchange，提问作者Dertalai