Dataflow作业失败报IP_SPACE_EXHAUSTED子网IP空间耗尽问题咨询

你遇到的IP_SPACE_EXHAUSTED报错为VPC子网私有IP资源耗尽，导致Dataflow无法为worker节点分配可用IP，具体错误如下：

Startup of the worker pool in zone region-d failed to bring up any of the desired 1 workers.
IP_SPACE_EXHAUSTED: IP space of 'projects/project-x/regions/region-y/subnetworks/default' is exhausted.

问题原因 #

• 指定的projects/project-x/regions/region-y/subnetworks/default子网的CIDR地址段容量不足，当前已占用IP数量已经达到网段上限，无剩余IP可分配给Dataflow worker
• 同一子网下存在其他占用私有IP的云资源（GCE实例、GKE节点、Serverless VPC连接器等），大量消耗了IP配额
• 过往异常终止的Dataflow作业未正常释放残留的worker网卡，占用了多余IP资源

解决方案 #

• 先清理无效IP占用：进入VPC网络控制台查看对应子网的IP占用列表，删除废弃资源对应的网卡、停止不再使用的实例，释放空余IP
• 调整Dataflow作业参数：
  • 降低作业的max_num_workers配置，减少所需IP数量
  • 启动作业时通过--subnetwork参数切换到同区域下有充足IP余量的其他子网运行
• 扩容子网IP容量：为当前default子网添加辅助CIDR段，扩展可用IP总容量，无需迁移现有运行的资源即可完成扩容
• 若作业无需跨区域访问，可开启Dataflow的私有IP复用特性，降低单worker的IP占用量

内容的提问来源于stack exchange，提问作者Donald Duck