Azure Durable Function批量处理连接池超时问题排查

连接池耗尽的核心问题出在代码实现逻辑错误，和连接池配置参数本身无关：

• 自定义Client属性逻辑完全错误：每次访问属性getter都会新建独立的SocketsHttpHandler和HttpClient实例。SocketsHttpHandler是连接池的实际持有对象，每次新建handler会生成完全独立的新连接池，配置的MaxConnectionsPerServer=100仅对单个池生效，多实例下总连接数会无限制增长；且这些handler未被主动释放，持有的连接不会归还系统，短时间高并发下直接占满所有可用连接，触发池超时。
• 异步代码同步阻塞：在async标记的方法中调用.GetAwaiter().GetResult()同步等待token获取结果，高并发场景下会引发线程池饥饿，请求响应回调、连接释放的逻辑无法被及时调度，进一步拉长连接占用时间，加剧超时问题。
• 资源未正确释放：HttpRequestMessage、StringContent、HttpResponseMessage均实现了IDisposable接口，未做释放处理时，关联的连接资源不会被及时归还到连接池，会长时间占用连接名额。
• 请求头重复添加：每次重试循环都往DefaultRequestHeaders写入认证头、版本号头，多次重试后会出现重复请求头，不仅会触发服务端校验错误，还会污染客户端实例状态，并发场景下存在线程安全问题。

1. 正确复用连接池实例 #

不要每次请求/访问属性时新建SocketsHttpHandler，推荐通过IHttpClientFactory管理客户端生命周期，在服务启动阶段配置统一的命名客户端：

// Azure Function Startup类中配置
builder.Services.AddHttpClient("BatchProcessClient")
    .ConfigurePrimaryHttpMessageHandler(() => new SocketsHttpHandler
    {
        PooledConnectionLifetime = TimeSpan.FromMinutes(10),
        PooledConnectionIdleTimeout = TimeSpan.FromMinutes(5),
        MaxConnectionsPerServer = 100 // 单handler池化下该配置才会全局生效
    });

如果不使用IHttpClientFactory，需要在类的构造函数中初始化一次SocketsHttpHandler和HttpClient做单例复用，禁止在属性getter、请求方法内重复新建。

2. 修正HandleAsync实现逻辑 #

修复同步阻塞、资源泄漏、请求头重复问题，参考实现如下：

public class BatchRequestHandler
{
    private readonly IHttpClientFactory _httpClientFactory;
    private readonly IAppSetting _appSetting;
    private readonly ITokenProvider _tokenProvider;

    // 依赖注入工厂实例
    public BatchRequestHandler(IHttpClientFactory httpClientFactory, IAppSetting appSetting, ITokenProvider tokenProvider)
    {
        _httpClientFactory = httpClientFactory;
        _appSetting = appSetting;
        _tokenProvider = tokenProvider;
    }

    public async Task<HttpResponseMessage> HandleAsync(string uri, string body, int retryCount)
    {
        // 参数校验
        Ensure.That(uri, nameof(uri)).IsNotNull();
        Ensure.That(uri, nameof(uri)).IsNotEmptyOrWhiteSpace();
        Ensure.That(body, nameof(body)).IsNotNull();
        Ensure.That(body, nameof(body)).IsNotEmptyOrWhiteSpace();

        var iteration = 0;
        HttpResponseMessage response = null;
        try
        {
            do
            {
                // 释放上一次重试的响应资源
                response?.Dispose();
                iteration++;

                // 异步获取认证token，禁止同步阻塞
                var (authKey, authValue) = await _tokenProvider.GetAuthenticationHeader(_appSetting.PayloadConfig);
                // 获取池化的客户端实例
                var client = _httpClientFactory.CreateClient("BatchProcessClient");

                // 所有请求相关的disposable对象用using包裹，自动释放
                using var request = new HttpRequestMessage(HttpMethod.Post, uri);
                // 动态头、单次请求头直接加在request实例上，不要写入全局DefaultRequestHeaders
                request.Headers.Accept.Add(new MediaTypeWithQualityHeaderValue("*/*"));
                request.Headers.Add(authKey, authValue);
                request.Headers.Add("api-version", "1.0");
                request.Content = new StringContent(body, Encoding.UTF8, "application/json");

                response = await client.SendAsync(request);
            } while (!response.IsSuccessStatusCode && iteration < retryCount);

            await response.EnsureSuccessStatusCodeAsync();
            return response;
        }
        catch
        {
            response?.Dispose();
            throw;
        }
    }
}

3. Durable Function场景额外优化 #

在host.json中配置活动函数最大并发数，和连接池上限匹配，避免短时间并发请求数超过连接池承载能力：

{
  "durableTask": {
    "maxConcurrentActivityFunctions": 80
  }
}

内容的提问来源于stack exchange，提问作者this-Me