.NET 6控制台应用HttpClient并行调用：如何跨服务器分配负载

问题1：Singleton/静态HttpClient是否会导致请求全部路由至首次连接的单一服务器？ #

是的，大概率会出现这种情况，核心原因是HttpClient的连接复用机制：

• Singleton或静态HttpClient默认会复用与目标主机的TCP连接（由HttpClientHandler的连接池管理，按目标URI的主机IP分组）。
• 你的请求目标是GLB的CNAME，DNS解析后得到GLB的IP，所有请求都会复用与该IP的TCP连接。如果GLB或后端LTM启用了会话粘性（比如基于TCP连接的粘性策略），那么同一个连接上的所有请求都会被路由到同一个LTM VIP，进而可能被LTM转发到同一台后端服务器。
• 即使GLB没有会话粘性，TCP连接复用也会让后续请求跳过GLB的负载均衡决策，直接走已建立的连接对应的服务器节点。

对于POST这类资源消耗大的批量请求，这种情况会导致单台服务器承受全部负载，违背了多节点部署的初衷。

问题2：如何实现负载分配到所有可用服务器？ #

以下是几种可行方案，按推荐优先级排序：

1. 调整负载均衡器的会话粘性配置 #

如果有权限修改GLB或LTM的配置，关闭基于TCP连接的会话粘性（或设置极短的超时时间）。这样即使HttpClient复用TCP连接，GLB和LTM也能在每次请求时重新分配到不同的后端节点，从根源上解决负载集中的问题。这是最优方案，不需要修改应用代码。

2. 使用IHttpClientFactory管理客户端 #

在.NET 6中，推荐用IHttpClientFactory替代全局Singleton HttpClient：

• IHttpClientFactory会自动维护一个HttpClientHandler池，定期回收旧的Handler（默认2分钟），避免长期复用同一个连接池。
• 每次Handler被回收后，新的请求会重新解析DNS并建立新连接，让GLB有机会重新分配负载。
• 实现简单，只需在DI容器中注册：

  builder.Services.AddHttpClient();
  

  然后通过依赖注入获取IHttpClientFactory，创建客户端发起请求：

  var client = _httpClientFactory.CreateClient();
  var response = await client.PostAsync("https://your-glb-url/api/xxx", content);
  

3. 禁用HttpClient的连接复用（不推荐） #

通过修改HttpClientHandler的配置，强制每次请求新建连接：

var handler = new HttpClientHandler
{
    MaxConnectionsPerServer = 1, // 限制每个服务器的连接数为1
    ConnectionKeepAlive = TimeSpan.Zero // 关闭连接保持
};
var client = new HttpClient(handler);

这种方式能让每次请求都经过GLB的负载均衡，但会带来TCP握手的性能开销，不适合高并发批量请求场景。

4. 应用层实现负载均衡 #

如果无法修改负载均衡器配置，也可以在应用层维护后端服务器的地址列表，实现简单的轮询/随机负载：

• 提前获取6台服务器的直接访问地址（或LTM VIP地址）。
• 每次请求时，按轮询规则选择一个地址发起请求。
• 缺点是需要手动维护服务器列表，无法自动感知节点上下线，灵活性较差。

内容的提问来源于stack exchange，提问作者askids