.NET 4.6 WCF异步请求接收延迟问题排查

问题背景 #

在.NET 4.6环境下开发Windows服务，托管WCF REST API，其中某个端点调用第三方维护的远程SOAP服务（SOAP客户端通过添加服务引用自动生成）。所有操作均采用异步实现，但发送批量并发请求时，WCF无法及时将请求传入业务处理方法（serviceStart时间戳分散）。

相关代码 #

数据契约 #

[DataContract]
public class MyDto
{
    [DataMember(Name = "M")]
    public string MyProperty { get; set; }
}

服务定义 #

[ServiceContract]
public interface IMyService 
{
    [OperationContract]
    [WebInvoke(Method = "POST", UriTemplate = "mymethod", BodyStyle = WebMessageBodyStyle.Bare, RequestFormat = WebMessageFormat.Json, ResponseFormat = WebMessageFormat.Json)]
    Task<MyDto> MyMethod(MyDto input);
}

服务实现 #

//[ServiceBehavior(ConcurrencyMode = ConcurrencyMode.Multiple)] 注释了并发模式
public class MyService : IMyService
{
    public async Task<MyDto> MyMethod(MyDto input)
    {
        DateTime serviceStart = DateTime.Now;
        
        var client = new MyExternalSoapServiceReference.MyExternalSoapServicePortTypeClient();
        var result = await client.ExternalCall(input.MyProperty);
        input.MyProperty = result.ResponseProperty;

        DateTime serviceEnd = DateTime.Now;
        
        // 记录serviceStart & serviceEnd时间戳
        
        return input;
    }
}

WCF主机配置 #

WebServiceHost host = new WebServiceHost(typeof(MyService), new Uri("http://localhost:8080"));

/*
注释了节流行为配置
System.ServiceModel.Description.ServiceThrottlingBehavior throttlingBehavior = new System.ServiceModel.Description.ServiceThrottlingBehavior();
throttlingBehavior.MaxConcurrentCalls = 1000;
throttlingBehavior.MaxConcurrentInstances = 2000;
throttlingBehavior.MaxConcurrentSessions = 1000;
host.Description.Behaviors.Add(throttlingBehavior);
*/

host.AddServiceEndpoint(typeof(IMyService), new WebHttpBinding(), "/myapi");

host.Open();

测试客户端代码 #

List<Task> tasks = new List<Task>();

for (int i = 0; i < 500; i++)
{
    Task t = Task.Run(async () =>
    {
        await MakeRequest();
    });
    tasks.Add(t);
}

Task.WaitAll(tasks.ToArray());

private async Task<string> MakeRequest()
{
    using (HttpClient client = new HttpClient())
    {
        DateTime clientStart = DateTime.Now;

        HttpResponseMessage response = await client.PostAsync("http://localhost:8080/myapi/mymethod", 
            new StringContent(SerializationUtils.SerializeToJsonString(new { M = "1" }),
            Encoding.UTF8,
            "application/json"));

        DateTime clientEnd = DateTime.Now;

        // 记录clientStart & clientEnd时间戳
    }
}

实验结果 #

• 实验1：500并发请求下，clientStart时间接近，但serviceStart分散在1-40秒区间。
• 实验2：将外部SOAP调用替换为await Task.Delay(2000)，现象与实验1一致。
• 实验3：启用限流配置（MaxConcurrentCalls等设为远大于500）并开启ConcurrencyMode.Multiple，现象仍与实验1、2一致。
• 实验4：基于实验3的配置，替换SOAP调用为Task.Delay，所有请求的serviceStart时间一致。

疑问 #

1. 实验1-3中为何请求无法同时到达服务端？异步架构下WCF应能并发接收500请求。
2. 实验4中请求接收情况为何依赖业务操作类型（SOAP调用/Task.Delay）？

原因分析 #

1. 实验1-3请求延迟的核心原因 #

• 客户端连接数限制：测试代码中每次请求创建新HttpClient实例，且.NET默认ServicePointManager.DefaultConnectionLimit为2，对同一目标地址的并发HTTP连接数限制为2。500个请求在客户端就被排队，只能逐个发送到服务端，导致serviceStart分散。
• WCF默认节流配置限制：WCF默认的ServiceThrottlingBehavior参数远小于500（MaxConcurrentCalls=16、MaxConcurrentInstances=26、MaxConcurrentSessions=10），即使注释了自定义配置，服务端也无法同时处理大量请求，请求会在WCF队列中排队。实验3中可能存在配置时机错误（如添加端点后才配置节流，导致未生效）。
• SOAP客户端资源消耗：每次请求创建新SOAP客户端实例会消耗大量资源，加剧服务端线程池压力，进一步延迟请求处理。

2. 实验4与前三者的差异原因 #

实验4中：

• 节流配置正确生效，服务端允许同时处理500个请求。
• Task.Delay是纯异步等待，不会占用线程池线程，服务端能快速接收所有请求并进入等待状态，因此serviceStart时间一致。
  而前三者要么客户端连接限制未解决，要么服务端节流配置未生效，导致请求排队。

解决办法 #

客户端优化 #

• 复用HttpClient实例：全局复用一个HttpClient，避免Socket资源耗尽和连接数限制：

private static readonly HttpClient _httpClient = new HttpClient();

private async Task<string> MakeRequest()
{
    DateTime clientStart = DateTime.Now;

    HttpResponseMessage response = await _httpClient.PostAsync("http://localhost:8080/myapi/mymethod", 
        new StringContent(SerializationUtils.SerializeToJsonString(new { M = "1" }),
        Encoding.UTF8,
        "application/json"));

    DateTime clientEnd = DateTime.Now;
    // 记录时间戳
}

• 提高客户端连接数限制：在测试程序启动时设置：

ServicePointManager.DefaultConnectionLimit = 1000;

服务端优化 #

• 正确配置WCF节流行为：确保在添加服务端点之前添加节流行为：

WebServiceHost host = new WebServiceHost(typeof(MyService), new Uri("http://localhost:8080"));

// 先添加节流行为
ServiceThrottlingBehavior throttlingBehavior = new ServiceThrottlingBehavior();
throttlingBehavior.MaxConcurrentCalls = 1000;
throttlingBehavior.MaxConcurrentInstances = 2000;
throttlingBehavior.MaxConcurrentSessions = 1000;
host.Description.Behaviors.Add(throttlingBehavior);

// 再添加服务端点
host.AddServiceEndpoint(typeof(IMyService), new WebHttpBinding(), "/myapi");

host.Open();

• 启用ConcurrencyMode.Multiple：允许服务实例同时处理多个请求（异步方法本身线程安全）：

[ServiceBehavior(ConcurrencyMode = ConcurrencyMode.Multiple)]
public class MyService : IMyService
{
    // 实现代码
}

• 优化WebHttpBinding配置：调整绑定参数以支持高并发：

WebHttpBinding binding = new WebHttpBinding();
binding.MaxReceivedMessageSize = 10485760; // 10MB
binding.ReceiveTimeout = TimeSpan.FromMinutes(5);
host.AddServiceEndpoint(typeof(IMyService), binding, "/myapi");

• 复用SOAP客户端实例：使用对象池或静态实例复用SOAP客户端（需确认客户端线程安全）：

private static readonly MyExternalSoapServicePortTypeClient _soapClient = new MyExternalSoapServicePortTypeClient();

public async Task<MyDto> MyMethod(MyDto input)
{
    DateTime serviceStart = DateTime.Now;
    var result = await _soapClient.ExternalCall(input.MyProperty);
    input.MyProperty = result.ResponseProperty;
    DateTime serviceEnd = DateTime.Now;
    // 记录时间戳
    return input;
}

内容的提问来源于stack exchange，提问作者George Leontopoulos