Azure预构建模型AnalyzeDocumentAsync冷启动时长异常咨询

现象是否正常？ #

这种冷启动延迟是正常的。Azure Document Intelligence（原Form Recognizer）的S0定价层属于弹性托管的多租户服务，为优化资源利用率和运营成本，服务会在实例闲置一段时间（通常为1分钟左右，与你观察到的等待1分钟后再次出现延迟的情况匹配）后回收计算资源。当首次请求或闲置后再次发起请求时，服务需要重新初始化模型运行环境和计算实例，因此会产生约20秒的冷启动延迟；而保持应用活跃时，实例处于运行状态，重复请求就能维持在3秒左右的正常响应时间。

切换到Beta版Azure.AI.DocumentIntelligenceSDK后现象一致，是因为冷启动是服务端的资源调度行为，与客户端SDK版本无关。

是否存在遗漏的Azure配置项？ #

默认情况下S0层没有内置的“保持实例预热”配置，但可以通过以下方式缓解冷启动问题：

• 定期发送预热请求：在应用空闲期间，每隔30-50秒发送一个轻量的分析请求（比如使用一张内容简单、尺寸较小的测试文档），维持实例的活跃状态，避免资源被回收。
• 使用预留容量：如果业务对延迟有严格要求，可以购买Azure Document Intelligence的预留容量，这会为你保留固定的计算资源，彻底避免冷启动延迟，但对应的成本会高于S0按需层。
• 确认区域资源状态：虽然可能性较低，但可以检查法国区域的服务状态，确保没有因资源紧张导致的初始化延迟。

内容的提问来源于stack exchange，提问作者FabRueil