如何将微调AI模型部署到不同Azure AI/OpenAI实例及相关咨询

问题1：是否可将微调模型部署至与源实例不同的目标实例？ #

Azure AI Studio和Azure OpenAI Studio的UI界面暂不支持直接跨实例部署微调模型，但可以通过API、Azure CLI或MLflow模型注册表间接实现：

• 若使用Azure AI Services：将微调后的模型注册到MLflow模型注册表，确保目标实例拥有访问该注册表的权限（通过RBAC配置），随后在目标实例上通过CLI/API基于注册表中的模型创建部署。
• 若使用Azure OpenAI Service：微调后的模型会存储在源实例的模型库中，可通过导出模型资产至Azure Blob存储（需配置存储账户的跨实例访问权限），再在目标实例中通过CLI/API指定Blob路径创建部署。
• 跨场景注意：跨区域部署需确保数据传输符合合规要求，同时目标实例需支持该微调模型的部署规格。

问题2：该部署流程能否通过CI/CD流水线自动化？ #

完全可以实现自动化，典型流程如下：

1. 训练阶段：在开发环境完成模型微调后，将模型注册到MLflow注册表或上传至Azure Blob存储（配置版本控制）。
2. 流水线配置：使用Azure DevOps Pipeline或GitHub Actions，通过服务主体（SPN）获取源模型资产的访问权限及目标实例的部署权限。
3. 部署执行：
   • 调用az ml model deploy CLI命令，指定目标实例和注册表中的模型ID/版本；
   • 或使用ARM/Bicep模板定义Azure OpenAI部署资源，通过流水线将模板部署至目标资源组；
   • 也可直接调用Azure OpenAI REST API，在目标实例中创建部署并指定模型的存储路径。

问题3：哪里可获取该经典场景的相关文档？ #

可参考以下官方文档内容：

• Azure AI Services模型部署与MLflow集成文档：涵盖模型注册、跨实例访问配置及CLI部署步骤；
• Azure OpenAI Service微调与部署API/CLI指南：包含模型导出、跨实例部署的参数说明；
• Azure Resource Manager AI资源模板文档：提供类似Synapse的ARM/Bicep模板示例，用于多环境资源部署；
• Azure DevOps AI/ML流水线文档：介绍如何构建自动化的模型训练-部署流水线。

内容的提问来源于stack exchange，提问作者Soruk