Android使用自签名密钥库配置SSLContext实现WSS服务端遇连接超时

针对你用org.java-websocket:Java-WebSocket:1.5.6实现的WebSocket服务端WS正常但WSS超时的问题，从代码和配置层面排查出几个关键问题，修复方案如下：

1. 修复SSLContext初始化的KeyManager参数错误 #

服务端需要向客户端提供自身的密钥凭证来完成SSL握手，你的代码中初始化SSLContext时传入了null作为KeyManagers，这会导致服务端无法提供身份验证信息，客户端握手失败超时。

修改createSSLContext方法中的SSLContext初始化代码：

val sslContext = SSLContext.getInstance("TLS")
// 替换null为keyManagerFactory生成的KeyManagers
sslContext.init(keyManagerFactory.keyManagers, tmf.trustManagers, SecureRandom())

2. 修正TrustManagerFactory的算法配置 #

TrustManagerFactory.getInstance("BKS")是错误的，BKS是密钥库存储类型，而非TrustManagerFactory的算法类型。应该使用默认算法或标准PKIX算法：

// 方式1：使用默认算法
val tmf: TrustManagerFactory = TrustManagerFactory.getInstance(TrustManagerFactory.getDefaultAlgorithm())
// 方式2：明确指定PKIX算法（与默认效果一致）
// val tmf: TrustManagerFactory = TrustManagerFactory.getInstance("PKIX")
tmf.init(keyStore)

3. 验证BKS密钥库的有效性 #

确保keystore.bks是用正确命令生成的适用于Android的BKS格式密钥库：

keytool -genkeypair -alias websocket-server -keyalg RSA -keysize 2048 -storetype BKS -keystore keystore.bks -storepass password -keypass password

• 生成时需使用JDK自带的keytool，若遇到BKS格式支持问题，需引入BouncyCastle提供者
• 确认密钥库文件已正确放置在src/main/assets目录下，文件名和密码与代码中一致

4. 检查基础配置与权限 #

• 确保AndroidManifest中添加了网络权限：

  <uses-permission android:name="android.permission.INTERNET" />
  

• 客户端连接时使用正确的WSS地址格式：wss://[Android设备IP]:[端口]，确保设备与客户端在同一局域网内，端口未被防火墙拦截
• 打印完整的SSL初始化异常堆栈，替换serverLog("createSSLContext ${e.message}")为e.printStackTrace()，以便定位具体加载错误

修改后的完整createSSLContext方法 #

private fun createSSLContext(context: Context): SSLContext? {
    return try {
        val keystoreFileName = "keystore.bks"
        val keystorePassword = "password"
        val keystoreInputStream: InputStream = context.assets.open(keystoreFileName)

        val keyStore = KeyStore.getInstance("BKS")
        keyStore.load(keystoreInputStream, keystorePassword.toCharArray())
        keystoreInputStream.close()

        val keyManagerFactory =
            KeyManagerFactory.getInstance(KeyManagerFactory.getDefaultAlgorithm())
        keyManagerFactory.init(keyStore, keystorePassword.toCharArray())

        val tmf: TrustManagerFactory = TrustManagerFactory.getInstance(TrustManagerFactory.getDefaultAlgorithm())
        tmf.init(keyStore)

        val sslContext = SSLContext.getInstance("TLS")
        sslContext.init(keyManagerFactory.keyManagers, tmf.trustManagers, SecureRandom())
        sslContext
    } catch (e: Exception) {
        e.printStackTrace()
        null
    }
}

内容的提问来源于stack exchange，提问作者sepideh