C#高并发命令场景下异步任务并行执行及低延迟优化咨询

现有代码隐藏问题 #

• 第一个大坑是Parallel.ForEach不支持异步lambda：你传入的async list => { await DoSomething(); }实际会被隐式转换为async void委托，Parallel.ForEach不会等待异步操作完成，Execute方法会提前返回，内部任务出现异常会直接抛到进程级别，高并发下极易导致程序崩溃，这个方案直接弃用。
• DoSomething中滥用ContinueWith：默认情况下ContinueWith会捕获当前同步上下文，回调调度存在不必要的开销；同时你没有做异常捕获，一旦API.RequestSomething()抛出错误，未处理的异常会直接冒泡到线程池，100QPS的请求量下很快会拖垮进程。另外TaskContinuationOptions.ExecuteSynchronously不适合你的场景，你的回调是长耗时操作，用这个参数会占用API请求完成的底层线程，反而拖慢后续请求的处理速度。
• 未做并发限流：如果单次Execute需要处理的ids数量较多，100次每秒的请求会瞬间生成上千个待调度的Task，线程池调度不及时就会产生明显延迟，严重时会出现线程池饥饿。

优化实现方案 #

基础代码修正 #

首先替换掉错误的实现逻辑：

1. Execute方法直接保留Task.WhenAll方案，彻底删除Parallel.ForEach的实现。如果单次处理的id数量超过20个，建议做分批处理，避免瞬间生成过多任务：

public override async ValueTask Execute()
{
    const int batchSize = 20;
    for (int i = 0; i < ids.Count; i += batchSize)
    {
        var batch = ids.Skip(i).Take(batchSize);
        var tasks = batch.Select(id => DoSomething()).ToList();
        await Task.WhenAll(tasks);
    }
}

2. 重构DoSomething，用await代替ContinueWith，增加异常处理：

public async Task DoSomething()
{
    try
    {
        abc result = await API.RequestSomething();
        // 原ContinueWith中的逻辑直接写在这里即可
        // 如果是IO操作（数据库更新、下游API调用）直接用对应的异步方法，不要阻塞
        // 如果是CPU密集型长耗时操作，用Task.Run包裹：await Task.Run(() => { 你的逻辑 });
    }
    catch (Exception ex)
    {
        // 此处添加日志记录/降级处理逻辑，禁止漏处理异常
    }
}

高并发低延迟优化 #

• 增加异步队列缓冲：用System.Threading.Channels实现容量可控的请求队列，所有进来的命令先写入队列，后台启动固定数量的消费者协程拉取处理，可自定义并发度，避免请求突增打垮下游资源，100QPS的量级下完全无压力。
• 可合并操作做批量处理：如果多个命令对应的数据库更新、客户端推送操作可以合并，增加合并逻辑，大幅减少IO调用次数，延迟会明显降低。
• 可选配置线程池最小线程数：如果出现明显的调度延迟，可以适当调高线程池最小线程数，避免高并发下线程池动态扩容的额外开销。

内容的提问来源于stack exchange，提问作者MisterA AOM