使用子编排器提升Durable Function扇入性能的合理性问询

问题描述 #

我当前运行基于.NET 7 Isolated Worker的Durable Function，需要扇出数千个特定Activity Function实例，每个实例会把内容写入Blob Storage的同一文件。了解到默认扇入仅在单个编排器实例上进行，所以打算用子编排器来提升扇入性能。

父编排器调用子编排器代码：

foreach (var item in userList)
{
    Task subOrchestratorTask = context.CallSubOrchestratorAsync(Constants.SUB_ORCHESTRATOR, new SubOrchestratorInputModel
    {
        item
    });
    subOrchestratorActivities.Add(subOrchestratorTask);
}
await Task.WhenAll(subOrchestratorActivities);

子编排器代码：

[Function(Constants.SUB_ORCHESTRATOR)]
public async Task SubOrchestrator(
[OrchestrationTrigger] TaskOrchestrationContext context, SubOrchestratorInputModel request)
{
    var activities = new HashSet<Task>();
    foreach (var userInfo in request.userIds)
    {
        activities.Add(context.CallActivityAsync(Constants.ACTIVITY_FUNCTION, new ActivityFunctionInput
        {
           userInfo
        }));
    }
    await Task.WhenAll(activities);
}

请问这是用多个子编排器实现扇入的正确方式吗？我在每个子编排器里做Activity Function的扇出，但从时间戳来看，第一个子编排器在更新时第二个没有动静，怀疑子编排器是串行执行而非并行。（附存储资源管理器截图：截图显示第一个子编排器有更新时间戳时，第二个子编排器无更新记录）

解答 #

1. 调用方式的正确性 #

你当前的代码写法理论上是正确的：通过CallSubOrchestratorAsync创建子编排器任务，再用Task.WhenAll等待所有任务完成，Durable Functions运行时应当会并行调度这些子编排器。实际出现串行执行的情况，大概率是由资源限制或配置问题导致。

2. 串行执行的可能原因 #

• 宿主资源不足：如果函数应用的实例数不够、CPU/内存紧张，Durable Functions运行时会限制并行编排器的数量，优先串行处理。
• 存储账户吞吐量瓶颈：Durable Functions依赖Azure存储队列/表调度任务，若存储账户的吞吐量达到上限，会造成任务排队，表现为串行执行。
• 子编排器负载不均：若某个子编排器的userIds数量远多于其他，其执行时间会更长，掩盖了其他子编排器的并行执行痕迹。
• Isolated Worker并发配置过低：.NET Isolated Worker模式下，编排器调度由宿主进程管理，若FUNCTIONS_WORKER_PROCESS_COUNT等并发配置过小，会限制并行度。

3. 验证并行执行的方法 #

• 在子编排器开头添加日志，记录启动时间和实例ID，通过Application Insights或日志工具查看时间戳，确认是否有多个子编排器同时启动。
• 检查函数应用缩放配置：确保开启自动缩放，且最大实例数足够应对负载；消耗计划下需确认是否达到默认的单实例100个并发限制。
• 查看Azure存储账户指标：检查队列消息等待时间、表事务速率，确认是否触发存储吞吐量限制。

4. 优化建议 #

• 均分子编排器负载：确保每个子编排器的userIds数量大致均等，避免单个子编排器负载过重。
• 调整宿主并发配置：Isolated Worker模式下，可设置DOTNET_SYSTEM_THREADING_POOL_MINTHREADS环境变量，增加线程池最小线程数，提升并发能力。
• 优化存储配置：若存储成为瓶颈，可使用Durable Functions分区功能，或升级存储账户到高级层。
• 避免单Blob并发写入冲突：多个Activity同时写入同一个Blob会引发冲突，建议先让每个Activity写入独立临时Blob，最后由单个编排器合并这些Blob，而非直接写入同一文件。

内容的提问来源于stack exchange，提问作者jmath412