如何将新版本模型部署至Vertex AI端点？

明确说明：Vertex AI没有自动更新端点关联模型版本的机制，需要手动执行操作，以下是两种常用方案：

方案一：直接替换（适合测试环境） #

操作简单，但会有短暂服务中断，步骤为「移除旧模型→部署新模型」：

from google.cloud import aiplatform

# 初始化AI Platform
aiplatform.init(project="test-project", location="us-west2")

# 获取目标端点实例（替换成你的端点ID或资源名称）
endpoint = aiplatform.Endpoint("projects/test-project/locations/us-west2/endpoints/[YOUR_ENDPOINT_ID]")

# 获取旧模型的部署ID（可通过endpoint.list_models()查看所有部署信息）
old_deployment_id = next(iter(endpoint.list_models()))["id"]

# 移除旧模型
endpoint.undeploy(deployment_id=old_deployment_id)

# 部署新模型版本到端点
endpoint.deploy(
    model=model_v2,
    machine_type="n1-standard-4",
    accelerator_type="NVIDIA_TESLA_T4",
    accelerator_count=1,
    max_replica_count=10,
)

方案二：流量渐变迁移（适合生产环境） #

无中断更新，通过逐步切换流量验证新版本，步骤为「部署新模型→渐变切流量→移除旧模型」：

from google.cloud import aiplatform

aiplatform.init(project="test-project", location="us-west2")

endpoint = aiplatform.Endpoint("projects/test-project/locations/us-west2/endpoints/[YOUR_ENDPOINT_ID]")
old_deployment_id = next(iter(endpoint.list_models()))["id"]

# 1. 部署新模型，初始流量全给旧版本
new_deployment = endpoint.deploy(
    model=model_v2,
    machine_type="n1-standard-4",
    accelerator_type="NVIDIA_TESLA_T4",
    accelerator_count=1,
    max_replica_count=10,
    traffic_split={old_deployment_id: 100}
)
new_deployment_id = new_deployment.deployment_id

# 2. 逐步调整流量分配（示例：先切50%到新模型）
endpoint.update_traffic_split(
    traffic_split={
        old_deployment_id: 50,
        new_deployment_id: 50
    }
)

# 验证无误后，将100%流量切换到新模型
endpoint.update_traffic_split(
    traffic_split={new_deployment_id: 100}
)

# 3. 移除旧模型版本
endpoint.undeploy(deployment_id=old_deployment_id)

注意事项 #

• 旧模型部署ID可通过endpoint.list_models()查看，返回结果包含部署ID、流量占比等信息
• 生产环境优先选流量迁移方案，避免服务中断
• 部署新模型时，需保证机器类型、加速器配置等与旧模型兼容，避免资源冲突

内容的提问来源于stack exchange，提问作者lotif