超50GB Docker镜像无法适配ACI，求无需VM的Azure服务方案

一、大镜像构建服务（无需自建VM） #

1. Azure Container Registry Tasks (ACR Tasks) #

• 直接在云端完成镜像构建，无需依赖本地/自建VM，构建资源可按需配置（CPU、内存），满足LLM容器构建的资源需求
• 构建完成后自动将镜像推送到关联的ACR，避免中间存储环节
• 使用命令示例：az acr build --registry <你的ACR名称> --image <镜像名:标签> --cpu 8 --memory 32G .，通过--cpu和--memory参数指定足够的构建资源

2. Azure DevOps Pipeline #

• 适合需要复杂构建流程的场景（如多阶段构建、依赖缓存、CI/CD集成）
• 选择Azure托管的高级代理池，这类代理具备充足的存储空间与内存，可处理超50GB的镜像构建任务
• 构建完成后可直接将镜像推送至ACR，全程托管无需手动维护构建环境

二、大镜像运行服务（替代ACI） #

1. Azure Kubernetes Service (AKS) #

• 支持拉取ACR中的大镜像运行，可选择具备大容量存储、高内存的节点实例
• 可配置存储类挂载额外磁盘，满足LLM运行时的模型存储需求
• 支持容器水平扩展、负载均衡等能力，适配高并发场景

2. Azure Virtual Machine Scale Sets (VMSS) #

• 属于托管式服务，非手动管理的VM，符合“不得使用VM”的要求
• 支持直接从ACR拉取容器镜像部署，可自定义节点的存储、内存配置，适配大LLM容器运行
• 具备自动缩放能力，可根据负载调整节点数量

3. Azure App Service（高级计划） #

• 若LLM容器以Web服务形式部署，可选择Pv3系列高级计划，支持最大100GB的镜像部署
• 直接从ACR拉取镜像，托管式运维无需管理底层基础设施

额外优化建议 #

• 采用多阶段构建缩小镜像体积：将构建依赖与运行时依赖分离，仅保留运行时必需的文件，可大幅降低镜像大小，甚至有可能适配ACI的15GB限制
• 对LLM模型文件采用外部挂载存储（如Azure Files、Azure Disk），不打包进镜像，进一步减小镜像体积

内容的提问来源于stack exchange，提问作者problem_solver_level_1