Vertex AI部署自定义模型至端点报AUTOMATIC_RESOURCES无效参数错误
报错具体含义
该报错属于参数非法类错误,核心触发原因是:执行部署命令时gcloud默认采用AUTOMATIC_RESOURCES(自动资源分配)策略部署模型,但你当前要部署的自定义模型,在上传导入阶段没有配置自动资源分配的适配规则,不支持该部署资源类型,仅支持显式指定计算资源规格的DEDICATED_RESOURCES(专用独享资源)部署模式,因此请求被平台拒绝。
排查解决方法
- 第一步先补全部署命令里的资源显式指定参数:你当前使用的命令模板里把
--machine-type作为可选参数,实际部署不支持自动资源的自定义模型时,该参数为必填,不能留空让系统自动分配。同时根据模型需要,明确写清最小/最大副本数,如果需要GPU加速还要把--accelerator的count和type值填全,不能省略。 - 如果你已经填了机器类型参数仍然报这个错,去Vertex AI控制台的模型列表页找到对应模型,查看模型详情页的「支持的部署资源类型」字段,确认模型是否真的不支持AUTOMATIC_RESOURCES:部分自定义导入的模型如果在上传时错误配置了资源声明,会出现即使传了机器参数也被默认匹配到自动资源策略的情况,这种情况需要重新导入模型。
- 可参考以下修正后的命令模板发起部署,不需要GPU就删掉加速器相关行:
gcloud beta ai endpoints deploy-model <你的端点ID> \ --region=us-central1 \ --display-name=<你的部署实例名称> \ --model=<你的模型资源ID> \ --machine-type=n1-standard-4 \ --min-replica-count=1 \ --max-replica-count=3 \ --accelerator=count=1,type=NVIDIA_TESLA_T4
- 如果你后续需要使用自动资源分配能力减少运维配置,需要重新导入自定义模型,在导入时的容器部署配置段,明确声明自动资源分配允许的CPU、内存上下限,配置完成后再用自动资源策略部署即可。
内容的提问来源于stack exchange,提问作者Yao Liu
相关产品推荐
相关产品推荐

