关于Kubernetes Service请求分配算法逻辑及可定制性的技术问询

Great question! Let's break this down step by step.

默认的请求分配算法 #

Kubernetes Service（包括ClusterIP、NodePort、LoadBalancer类型）默认采用的是**轮询（Round Robin）**算法。简单来说，它会按顺序把每个新的客户端连接依次分配给后端的Pod实例。

这里有个细节要注意：这个行为和kube-proxy的运行模式直接相关：

• 在iptables模式（kube-proxy默认模式）下，轮询是基于连接的——每个新的TCP/UDP连接会被分配到下一个Pod，同一个连接的所有请求都会落到同一个Pod上。
• 在IPVS模式下，默认也是轮询，但IPVS本身支持更多负载均衡策略，这就给了我们定制的空间。

是否支持定制？ #

答案是：分情况，取决于你用的kube-proxy模式，以及你的需求复杂度：

1. iptables模式下的定制限制 #

如果你的集群用的是默认的iptables模式，Kubernetes本身没有提供直接修改Service负载均衡算法的配置项——因为iptables规则是Kubernetes自动生成和维护的，默认只能用轮询。

如果这时候你需要更复杂的负载均衡策略，通常的解决方案是：

• 使用Ingress Controller（比如NGINX Ingress、Traefik）：Ingress可以配置多种负载均衡算法（比如最小连接数、源哈希），还能基于路径、域名等做路由。
• 引入Service Mesh（比如Istio、Linkerd）：Service Mesh提供了更细粒度的流量控制，包括自定义负载均衡策略、故障注入、流量拆分等功能。

2. IPVS模式下的灵活定制 #

如果你的集群启用了IPVS模式（需要内核支持IPVS模块），那你可以直接定制Service的负载均衡算法。IPVS支持以下几种常用算法：

• rr：轮询（默认）
• lc：最小连接数（优先分配给当前连接数最少的Pod）
• sh：源哈希（根据客户端IP地址分配，同一个客户端的请求会落到同一个Pod）
• dh：目标哈希（根据目标IP地址分配）
• sed：最短预期延迟（综合考虑连接数和响应时间）
• nq：永不排队（如果有空闲Pod，直接分配给它，不排队）

要配置IPVS的调度算法，你需要修改kube-proxy的ConfigMap：

1. 编辑kube-proxy的ConfigMap（通常在kube-system命名空间）：

   kubectl edit configmap kube-proxy -n kube-system
   

2. 在config.conf部分，找到ipvs配置块，添加或修改scheduler字段：

   ipvs:
     scheduler: "lc"  # 替换成你想要的算法，比如sh、sed等
   

3. 重启kube-proxy的Pod，让配置生效：

   kubectl rollout restart daemonset kube-proxy -n kube-system
   

3. 更细粒度的定制 #

如果以上方法还满足不了你的需求（比如基于请求头、实时负载等动态调整），可以考虑：

• 自定义Service Controller：通过编写自定义控制器来管理Service的后端路由逻辑。
• 使用第三方Service实现：比如部分云厂商提供的LoadBalancer Service支持配置负载均衡算法。

Hope that clears things up for you!

内容的提问来源于stack exchange，提问作者Mazen Ezzeddine