如何在Kubernetes中指定可调度Pod最小数量并避免作业活锁？

问题场景 #

假设集群有4个节点，每个节点可用内存1GB，提交2个作业：每个作业需3GB内存，拆分为3个各占1GB内存的Pod。如果两个作业各调度2个Pod，会直接耗尽集群资源，剩下的Pod都陷入Pending状态，所有作业都无法推进，形成活锁。我们需要确保作业能依次运行，避免这种情况。

原生Kubernetes特性的局限性 #

以下原生特性无法解决该问题：

• Pod Disruption Budget：仅用于保障运行中Pod的数量不低于阈值，对作业的初始调度没有约束作用。
• Pod Affinity：只能让Pod调度到已有匹配Pod的节点，但无法要求必须凑齐N个Pod才启动，而且未运行的Pending Pod不参与亲和性匹配判断。
• Pod Topology Spread Constraints：用于控制Pod在拓扑域间的分布差值，无法指定作业启动所需的最小Pod调度数量，满足不了"凑齐足够资源再启动作业"的需求。

可行方案：使用Kube Batch自定义调度器 #

Kube Batch是专门针对批量作业场景的Kubernetes调度器扩展，它的minMember属性正好能解决这个问题：

• 给每个作业配置minMember: 3，调度器会确保只有当集群能凑齐3个Pod的资源时，才开始调度该作业的Pod。
• 当集群资源不足以同时满足多个作业的minMember要求时，调度器会优先调度能满足条件的作业，等该作业完成释放资源后，再调度下一个作业，彻底避免活锁情况。

内容的提问来源于stack exchange，提问作者kai