如何配置OkHttp实现HTTP2下多微服务实例的负载均衡？

你的请求始终路由到微服务B的同一个实例，核心原因集中在DNS配置、HTTP2连接复用机制以及错误的参数设置上，具体如下：

一、关键配置问题点 #

1. 硬编码单IP的DNS实现
   你的自定义DNS解析逻辑固定返回单个IP地址，这直接导致OkHttp只能连接到这个唯一的目标IP，完全失去了负载均衡的基础。不管负载均衡器是否提供多实例路由，OkHttp没有机会选择其他IP。

2. HTTP2连接复用的特性
   HTTP2协议天生支持连接复用，OkHttp会持续复用已建立的TCP连接。如果这个连接对应的是负载均衡器转发后的某个实例，后续所有请求都会通过这个连接发送到同一实例，不会触发新的负载均衡决策。

3. 无效的Connection: close头
   HTTP2协议不支持Connection: close这个HTTP1.1的头字段，OkHttp会自动忽略它，所以你无法通过这个头强制关闭连接来触发重新路由。

4. 不合理的并发流限制

   • OkHttp的dispatcher.setMaxRequestsPerHost(1)：在HTTP2场景下，这个参数控制的是单个主机的并发流数量，设为1只会限制同一时间的请求数，不会触发新连接创建。
   • Tomcat的setMaxConcurrentStreams(1)：限制每个HTTP2连接只能处理一个并发流，导致请求排队，但依然复用同一个连接，无法切换实例。

二、修复方案 #

1. 修复DNS配置 #

移除自定义的硬编码DNS实现，使用OkHttp默认的DNS解析逻辑，这样域名会返回负载均衡器或微服务B所有实例的IP列表，OkHttp会在这些IP之间进行选择：

// 移除自定义的dns()配置，使用默认实现
return new OkHttpClient.Builder()
        .connectionPool(new ConnectionPool(600, 5, TimeUnit.MINUTES))
        .dispatcher(dispatcher)
        .addInterceptor(loggingInterceptor)
        .protocols(Collections.singletonList(Protocol.H2_PRIOR_KNOWLEDGE))
        .retryOnConnectionFailure(true)
        .build();

如果必须自定义DNS，确保返回所有微服务B实例的IP列表：

.dns(new Dns() {
    @NotNull
    @Override
    public List<InetAddress> lookup(@NotNull String s) throws UnknownHostException {
        // 返回所有微服务B实例的IP
        return Arrays.asList(
            Inet4Address.getByName("instance-1-ip"),
            Inet4Address.getByName("instance-2-ip"),
            ...
        );
    }
})

2. 调整连接池策略缩短连接存活时间 #

通过缩短连接池的连接存活时间，让OkHttp更快回收旧连接，新请求会建立新连接，从而触发负载均衡：

// 将连接存活时间从5分钟调整为更短的时间，比如30秒
.connectionPool(new ConnectionPool(600, 30, TimeUnit.SECONDS))

3. 调整并发流配置（可选） #

如果你需要保留HTTP2的多路复用优势，调整MaxRequestsPerHost为合理值（比如默认的5），同时修改Tomcat的setMaxConcurrentStreams为更大的数值，避免不必要的请求排队：

// OkHttp配置
dispatcher.setMaxRequestsPerHost(5);

// Tomcat配置
protocolHandler.setMaxConcurrentStreams(100);

4. 移除无效的Connection: close头 #

从请求中删除这个无效的头字段：

req = new Request.Builder().url(aiProperties.getBaseUrl() + aiProperties.apiurl())
        .addHeader(aiProperties.getApiKeyHeaderName(), aiProperties.getApiKey())
        .put(requestBody)
        .build();

内容的提问来源于stack exchange，提问作者Josip