WCF服务网关请求队列延迟优化及IIS超时配置问询

1. 减少请求队列等待请求的方法 #

• 调整.NET线程池参数：.NET 4.7.2默认线程池最小工作线程数为每核2个，10核服务器默认仅20个。当请求突增时，线程池扩容存在500ms间隔延迟，会导致请求排队。可在网关启动时通过代码设置：

  ThreadPool.SetMinThreads(100, 100); // 按需调整，比如对应10核设置100/100
  

  同时监控.NET CLR Threads\Pooled Threads计数器，确保线程池不会成为瓶颈。
• 优化WCF实例与并发模式：
  • 若当前使用PerSession实例模式，结合MaxConcurrentSessions限制易导致会话耗尽排队，建议改为PerCall实例模式，配合MaxConcurrentCalls，请求完成后立即释放实例，提升并发利用率。
  • 绑定配置中设置concurrencyMode="Multiple"，允许服务同时处理多个请求。
• 消除转发逻辑的同步阻塞：如果网关转发上游时用了同步阻塞调用（如HttpClient.GetAsync().Result），会占用WCF工作线程导致无法处理新请求。全部改为异步调用，使用await关键字，让线程在等待上游响应时归还线程池，提高线程复用率。
• 优化动态限流策略：当前按客户端配置并发数，若高请求量客户端占满资源，会导致其他客户端排队。可调整为基于QPS的限流，或设置全局并发上限，避免单个客户端耗尽资源；同时监控各客户端的并发占用情况，对异常客户端单独调整限流参数。
• 精准监控瓶颈点：用PerfMon监控以下计数器：
  • ServiceModelService 4.0.0.0\Calls Queued：实时查看排队请求数
  • ServiceModelService 4.0.0.0\Active Calls：当前正在处理的请求数
  • .NET CLR Threads\Active Threads：确认是否线程被大量阻塞

2. IIS终止长时间等待请求的配置 #

• IIS应用程序池请求超时：
  打开IIS管理器，找到对应应用程序池，进入「高级设置」：
  • 找到「请求限制」下的「请求超时（秒）」，默认120秒，可根据业务需求调整（如30/60秒），超过该时间的请求会被IIS终止并返回503错误。
• WCF自身超时配置：
  在WCF的绑定配置中设置更精准的超时：

  <bindings>
    <basicHttpBinding>
      <binding name="UpstreamBinding" sendTimeout="00:00:30"> <!-- 等待上游响应的最长时间 -->
      </binding>
    </basicHttpBinding>
  </bindings>
  

  同时在服务行为中限制等待队列长度，避免无限排队：

  <behaviors>
    <serviceBehaviors>
      <behavior name="GatewayBehavior">
        <serviceThrottling maxPendingRequests="500" /> <!-- 超过则拒绝新请求 -->
      </behavior>
    </serviceBehaviors>
  </behaviors>
  

内容的提问来源于stack exchange，提问作者DHAR