Azure ML Real-time Endpoint部署卡住 无成功/失败通知问题

问题描述 #

• 在Azure ML Studio中部署Kubernetes服务(AKS)类型实时端点时，保存配置点击创建后，仅弹出“Preparing to deploy”的通知，后续无任何进度更新。等待较长时间后查看端点列表，找不到对应部署记录，全程没有弹出任何部署成功或失败的提示
• 切换为容器实例(ACI)类型部署时，复现完全相同的问题

排查参考截图 #

• 点击创建后收到的通知：
  
• 待部署的ML流水线：
  

初步排查进展 #

已验证可生效的临时操作：删除原有web服务、运行流水线后，基于运行完成的流水线创建推理流水线，即可成功通过AKS完成端点部署。目前需要明确该问题的根本原因，以及该操作生效的原理。 #

问题根因 #

这个问题本质是Azure ML Studio前端没有透传后端的资产校验错误，导致部署请求静默失败，核心触发原因有三个：

1. 直接基于未运行过的草稿态流水线创建推理流水线、触发部署时，流水线内的模型输出、评分脚本、运行环境都属于动态占位符，没有绑定工作区内带唯一版本号的固化资产，后端部署服务校验资产引用有效性时会直接拦截请求，但没有向前端返回标准化的错误提示
2. 工作区如果残留同名的历史Web服务/端点资产，会持有对应名称的部署锁，新的同名称部署请求会被直接拒绝，前端没有捕获这类锁冲突的错误
3. 草稿态流水线的运行环境没有经过实际作业运行生成依赖快照，部署阶段无法拉取匹配的环境镜像触发构建流程，请求在调度阶段会被直接丢弃

临时方案生效原理 #

你用到的操作流程刚好覆盖了上述所有拦截点：

• 删除原有web服务的操作会直接释放对应名称的部署锁，清除历史资产的拦截规则
• 手动运行流水线后，Azure ML会自动把本次运行产生的模型文件、评分脚本、环境依赖全部固化为工作区内带版本号的可溯源资产，所有动态占位符都会替换成明确的资产引用路径
• 基于已完成运行的流水线创建推理流水线时，系统会自动从运行记录里拉取已经过实际运行验证的资产快照，部署请求提交后可以正常通过资产校验，顺利触发后续的镜像构建、计算资源调度、端点创建全流程

内容的提问来源于stack exchange，提问作者Nishanth Rajkumar