增加Docker容器CPU配额后并行API请求无性能提升原因排查

测试背景与环境 #

• 主机CPU：Intel® Core™ i3-6100（2核4线程）
• 部署方案：Docker部署.NET 6 API，API逻辑无外部调用或IO操作，仅生成5条WeatherForecast数据
• 内存情况：两种容器配置下内存占用均未超过100MB

API核心代码 #

[HttpGet(Name = "GetWeatherForecast")]
public IEnumerable<WeatherForecast> Get()
{
    return Enumerable.Range(1, 5).Select(index => new WeatherForecast
    {
        Date = DateTime.Now.AddDays(index),
        TemperatureC = Random.Shared.Next(-20, 55),
        Summary = Summaries[Random.Shared.Next(Summaries.Length)]
    })
    .ToArray();
}

两种容器配置 #

仅CPU配额不同，内存均限制为256MB：

• 单CPU配额配置：

  docker run -d --name c1m256 --cpus="1" --memory="256m" -p 8081:80 performancetest2
  

• 双CPU配额配置：

  docker run -d --name c2m256 --cpus="2" --memory="256m" -p 8081:80 performancetest2
  

测试调用代码 #

主机端尝试并行发起10000次API请求：

using (HttpClient client = new HttpClient())
{
    client.BaseAddress = new Uri("http://127.0.0.1:8081/WeatherForecast");
    Task[] tasks = new Task[10000];
    for (int i = 0; i < tasks.Length; i++)
    {
        client.DefaultRequestHeaders.Accept.Clear();
        client.DefaultRequestHeaders.Accept.Add(new System.Net.Http.Headers.MediaTypeWithQualityHeaderValue("text/plain"));

        client.GetAsync("WeatherForecast");
    }
}

问题现象 #

预期提升CPU配额后，10000次请求的完成时间会缩短，但实际两种配置下耗时均约40秒，无明显差异。

核心原因分析 #

1. 调用端代码存在致命缺陷 #

• 未追踪异步任务：代码创建了tasks数组，但未将client.GetAsync()的返回值赋值给tasks[i]，也没有等待所有任务完成。循环结束后代码直接退出，实际请求可能仍在后台缓慢处理，统计的40秒并非真实的请求完成时间，无法反映后端性能差异。
• HttpClient连接池限制：HttpClient默认最大并发连接数为10，即使发起10000次异步请求，实际能同时发送的请求数被严格限制，后端CPU始终处于低负载状态，根本没有机会利用额外的CPU配额。
• 冗余Header操作：每次循环重复清空并添加Accept Header，属于不必要的开销，但并非核心影响因素。

2. 后端API未达到CPU饱和状态 #

API逻辑极简单，单CPU即可轻松处理大量请求。在前端连接池的限制下，后端CPU使用率始终处于低位，提升CPU配额无法发挥作用，自然不会带来性能提升。

3. 主机物理CPU的限制 #

主机为2核4线程CPU，双CPU配额的容器已占用全部物理核心，但由于前端请求被阻塞，后端无法充分利用这些CPU资源，最终表现与单CPU配额的容器一致。

验证与优化建议 #

• 修复调用代码：将client.GetAsync()赋值给tasks[i]，并在循环后添加await Task.WhenAll(tasks);，确保等待所有请求完成，获取真实的耗时数据。
• 调整连接池限制：在创建HttpClient前设置ServicePointManager.DefaultConnectionLimit = 100;（或更高值），解除前端并发请求限制，让后端CPU能被充分压满。
• 监控CPU使用率：用docker stats命令查看两种容器配置下的CPU占用率，若单CPU配额时CPU使用率远低于100%，说明后端未达到负载瓶颈，提升配额无意义。

内容的提问来源于stack exchange，提问作者SamuraiJack