Kubernetes集群PHP-FPM服务流量仅分发至Master节点Pod的故障求助
K8s PHP-FPM Pod跨节点流量分发异常排查指南
核心现象梳理
- 集群内所有节点状态为Ready,Worker节点taishan上运行3个Ready状态的PHP-FPM Pod
- Nginx通过FastCGI转发到PHP Service的ClusterIP
10.108.218.232:9000 - 所有请求仅分发到Master节点上的5个Pod,Worker节点的Pod完全无流量进入
- Service的Endpoints列表虽然包含所有8个Pod的IP,但实际转发链路未覆盖Worker节点的Pod
根因定位步骤
1. 优先排查跨节点Pod网络连通性
你当前集群的Pod IP分配存在明显异常:
- Master节点上的Pod IP均在
10.244.0.10~10.244.0.14段 - Worker节点taishan上的Pod IP却也在同个
10.244.0.0网段下(10.244.0.2/3/4)
正常Flannel/Calico等CNI组件的IP分配逻辑为:每个节点从集群总Pod CIDR段(通常为10.244.0.0/16)中独立划出一个/24子网供本节点的Pod使用,两个节点的Pod IP不会出现同段交叉的情况。出现同段交叉就说明CNI未给taishan节点分配独立子网,跨节点的Pod路由规则配置失效,kube-proxy生成的流量转发规则无法识别Worker节点上的Pod地址,自然不会把流量转发过去。 - 连通性验证命令:
在Master节点上执行,直接测试Worker节点Pod的9000端口连通性:kubectl exec -it qsinavphp-5b67996888-fnv7c -- curl -m 2 10.244.0.2:9000
如果连接超时,就直接证明跨节点网络是断的。
2. 核对kube-proxy的实际转发规则
Service的Endpoints列表只是从K8s API拉取的、标记为Ready的Pod IP列表,不代表实际的转发链路能通。需要查看节点上实际生成的流量转发规则,确认Worker节点的Pod IP是否被加入转发链:
- iptables模式下查看规则:
iptables-save | grep 10.108.218.232 - IPVS模式下查看规则:
ipvsadm -Ln | grep 9000
如果规则中完全没有taishan节点上的3个Pod IP,就确认了网络层转发链路缺失的问题。
3. 排查PHP-FPM的监听配置
你通过ConfigMap把自定义的PHP-FPM配置挂载到了Pod内,需要确认PHP-FPM的监听地址不是本地回环:
- 检查ConfigMap中
www.conf的配置项,listen参数必须设置为0.0.0.0:9000,不能是127.0.0.1:9000或者/var/run/php.sock
如果监听地址是回环地址或者本地socket,即使Pod状态为Ready,跨节点转发过来的流量也会被PHP-FPM直接拒绝,表现为只有同节点的Pod能正常接收流量。
问题修复操作
- 修复CNI组件的子网分配逻辑:重启taishan节点上的CNI相关服务(flanneld/calico-node)和kubelet,等待节点从CNI组件重新申请独立的Pod子网,修正跨节点的路由规则。
- 调整Deployment的资源配置:当前每个Pod申请了4048m CPU的资源请求,Master节点的可分配资源有限,调度器会因为资源不足,优先把新Pod调度到Master节点,进一步加剧流量集中的问题。建议把资源请求调整为符合PHP-FPM实际负载的数值(如300m CPU、512Mi内存)。
- 核对Service的转发配置:当前Service的Session Affinity为None,也就是默认轮询转发,只要网络连通,流量就会均匀分发到所有后端Pod,不需要额外调整。
- 关于LoadBalancer状态的说明:当前Service类型为LoadBalancer,但集群没有部署本地LoadBalancer控制器,所以External IP一直处于pending状态,这不影响集群内部的服务访问;如果需要外部流量接入,后续可以切换为NodePort类型,或者部署MetalLB实现本地负载均衡。
内容的提问来源于stack exchange,提问作者Muhammad ahmad
相关产品推荐
相关产品推荐

