热路径下封装回调式API为异步API时如何避免分配并维持并发

你提出的优化是合理的，并非过度微优化。高吞吐重试场景下频繁创建TaskCompletionSource<T>（简称TCS）和委托实例会产生持续的托管堆分配，增加GC压力，完全可以通过对象复用消除这部分开销。

核心优化思路 #

你已经实现了Message对象的环形缓冲区复用，只需要将TCS和回调委托与Message实例绑定，一次性初始化后循环复用即可，无需每次发送重试时新建：

1. .NET 5及以上版本提供了TaskCompletionSource.TryReset()方法，可以重置已完成的TCS状态，实现复用。
2. 回调委托可以提前绑定到Message实例，避免每次循环产生委托分配。
3. 移除correlator的object类型装箱/拆箱开销，直接使用强类型TCS字段。

修改后的核心代码 #

调整Message类定义 #

internal class Message { 
    public bool sent; 
    public int payload; 
    // 强类型TCS，避免类型转换
    public TaskCompletionSource<bool> Tcs; 
    // 预绑定回调，避免重复创建委托
    public Action<Message> Callback; 
}

调整Guarantor构造函数初始化逻辑 #

public Guarantor(int maxConcurrency)
{
    _broker = new MockBroker();
    _ringBuffer = Channel.CreateBounded<Message>(maxConcurrency);
    for (int i = 0; i < maxConcurrency; i++) 
    {
        var msg = new Message();
        // 一次性初始化TCS
        msg.Tcs = new TaskCompletionSource<bool>(TaskCreationOptions.RunContinuationsAsynchronously);
        // 一次性绑定回调
        msg.Callback = m => m.Tcs.SetResult(m.sent);
        _ringBuffer.Writer.TryWrite(msg);
    }
}

调整热路径SendOneAsync逻辑 #

private async Task SendOneAsync(int payload)
{
    Message msg = await _ringBuffer.Reader.ReadAsync();
    msg.payload = payload;
    while (true)
    {
        // 重置TCS状态，无托管分配
        msg.Tcs.TryReset();
        if (_broker.TrySend(msg, msg.Callback) && await msg.Tcs.Task) 
            break;
        
        Console.WriteLine($"retrying {msg.payload}");
        await Task.Delay(500);
    }
    await _ringBuffer.Writer.WriteAsync(msg);
    Console.WriteLine(payload);
}

注意事项 #

• TryReset仅在TCS关联的Task已完成时返回true，你的逻辑中每次循环都先await TCS的Task完成才会进入下一轮重试，因此重置操作一定成功，不存在风险。
• 如果你使用的是.NET Framework或低于.NET 5的运行环境，没有内置TryReset方法，可以自行实现可重置的TCS封装，原理为内部维护TCS实例的轮换，同样可以实现复用无分配。
• 优化后热路径不存在任何TCS、委托的分配开销，和你现有的Message复用逻辑完全匹配。

内容的提问来源于stack exchange，提问作者allmhuran