如何在Vertex AI的Kubeflow Pipelines中配置使用Tesla A100 GPU

问题核心 #

A100属于GCP的A2专用机型族，无法兼容通用N1机型的硬件架构，之前的配置仅指定了GPU加速器类型，Vertex调度器默认会优先分配通用N1族机器，因此会触发兼容性报错。

正确配置方案 #

直接通过KFP SDK提供的set_machine_type方法显式指定A100对应的专用机型即可，无需靠CPU、内存限制反推机型，参考代码如下：

op().
set_machine_type('a2-highgpu-1g'). # 直接绑定A100单卡专用机型
add_node_selector_constraint('cloud.google.com/gke-accelerator', 'nvidia-tesla-a100').
set_gpu_limit(1)

注意事项 #

• 无需额外手动设置CPU/内存限制，a2-highgpu-1g默认对应12vCPU/85G内存，平台会自动分配对应资源，手动设置时只要不超过机型上限也可正常生效
• 如果需要多卡A100，仅需同步修改机型参数与GPU限制即可，比如2卡A100对应配置为set_machine_type('a2-highgpu-2g') + set_gpu_limit(2)
• 运行前需要确认你使用的GCP区域已开通A2机型与NVIDIA_TESLA_A100的资源配额，配额不足时需要先在GCP控制台配额页面申请对应额度

内容的提问来源于stack exchange，提问作者ZZZZZZZZZ