Google Compute Engine抢占式VM无法选择1个NVIDIA Tesla K80问题咨询

结合你遇到的情况，我来拆解下问题原因和可行的解决思路：

1. 单个NVIDIA Tesla K80选项呈灰色的原因 #

这大概率是区域资源库存不足导致的。GCE的抢占式实例资源是动态调度的，不同GPU型号的库存波动相互独立——us-central1区域当前可能没有剩余的单个抢占式K80资源了，但P100还有库存，所以后者可以正常选择。

2. 为什么之前能创建2个K80，现在配额显示限制为1？ #

GCE的项目配额可能会随着平台政策调整、项目使用情况变化而变动，也有可能是你之前的实例释放后，配额没有及时刷新（不过这种情况很少见）。但现在明确配额PREEMPTIBLE_NVIDIA_K80_GPUS在us-central1的限制是1.0，且你不想通过追加资金提升配额，那可以试试下面的方案：

可行的解决办法 #

• 切换到其他支持K80的区域：不同区域的抢占式GPU库存和配额规则可能不同。比如试试us-east1、europe-west4这些区域，说不定单个抢占式K80有可用库存，且配额能满足你的需求。
• 检查机器类型兼容性：K80需要搭配特定的机器类型（比如n1-standard-8及以上的n1系列机型，或者符合要求的自定义机器类型），如果你选的机器类型不兼容，单个K80选项也会变灰。先确认机器类型和K80的兼容性再尝试。
• 改用Spot VM（抢占式实例升级版）：GCE的Spot VM资源调度逻辑和传统抢占式略有差异，有时候能获取到常规抢占式没有的资源。你可以尝试创建Spot VM并选择K80，看是否能成功启动单个实例。
• 清理项目内的遗留资源：检查你的项目中有没有停止状态的抢占式K80实例、预留的GPU配额或者闲置的磁盘资源，这些都可能占用你的PREEMPTIBLE_NVIDIA_K80_GPUS配额。清理后再尝试创建，说不定能恢复可用配额。

用命令行验证资源状态 #

你可以通过gcloud命令行快速确认资源情况：

# 查看us-central1区域的抢占式K80配额使用情况
gcloud compute regions describe us-central1 --format="value(quotas[?metric=='PREEMPTIBLE_NVIDIA_K80_GPUS'].limit, quotas[?metric=='PREEMPTIBLE_NVIDIA_K80_GPUS'].usage)"

# 检查us-central1各可用区的K80抢占式资源状态
gcloud compute accelerator-types list --filter="name='nvidia-tesla-k80' and zone:us-central1-*" --format="value(zone, status)"

如果输出中status显示UNAVAILABLE，那就是库存问题，直接换区域即可。

内容的提问来源于stack exchange，提问作者user1700890