C#并行查询Azure Cosmos DB的CosmosClient连接与并发问题

CosmosClient 连接行为说明 #

Microsoft.Azure.Cosmos.CosmosClient 本身是线程安全的单例设计客户端，初始化完成后会自动维护内部连接池、分区路由缓存，复用底层连接，不会在每次查询时新建连接。官方明确推荐在应用全生命周期内复用同一个CosmosClient实例，反复新建实例反而会引发Socket端口耗尽、连接抖动、性能骤降的问题。
如果你的仓储管理器的GetConnection()方法是每次调用都新建CosmosClient，那不管是否并行查询，都会存在严重的性能隐患，必须调整为单例模式复用客户端。

你写的Parallel.ForEach写法的问题 #

你当前写的Parallel.ForEach实现不建议直接上线，存在几个明确问题：

• 并行逻辑中用.Result阻塞等待异步查询结果，高并发场景下极易引发线程池死锁、请求卡死
• 没有做并发度控制，如果groupId数量很大，会瞬间发起海量请求：要么打满本地客户端的CPU、网络带宽资源，要么触发Cosmos DB服务端的429限流错误。如果仓储层没有内置可靠的429重试逻辑，会直接出现请求失败；就算有重试，过量的重试请求也会进一步拉长整体耗时
• 对itemList加锁写入虽然能保证线程安全，但高并发下的锁竞争会带来额外的性能损耗

只要你复用单例CosmosClient，且合理控制并发请求量，并行查询本身不会引发功能异常，性能会比串行遍历提升数倍。

推荐优化实现 #

不要用Parallel.ForEach处理异步IO场景，建议用带并发度控制的异步并行方案，以.NET 6+为例：

// 最大并发度根据Cosmos DB容器配置的RU上限、本地机器资源压测调整，初始可设为10~20
var parallelOptions = new ParallelOptions
{
    MaxDegreeOfParallelism = 16,
    CancellationToken = cancellationToken
};

var resultBag = new ConcurrentBag<IEnumerable<YourItemType>>();
// 用异步并行方法，无阻塞等待，不需要手动加锁
await Parallel.ForEachAsync(listOfGroupIds, parallelOptions, async (groupId, ct) =>
{
    var groupItems = await _repositoryManager.GetItemsByGroupId(groupId, ct);
    resultBag.Add(groupItems);
});

// 所有查询完成后一次性合并结果
itemList.AddRange(resultBag.SelectMany(items => items));

如果是.NET 6以下版本，可以用SemaphoreSlim做并发控制配合Task.WhenAll实现同等效果，不要直接用无并发限制的Task.WhenAll发起所有请求。

补充：如果你的查询本身是按分区键查询（groupId是分区键的话），单请求的RU消耗本身很低，合理控制并发度后整体耗时会有非常明显的下降。

内容的提问来源于stack exchange，提问作者aminrd