Docker Swarm中TCP服务器部署连接异常排查及负载均衡问询

背景 #

我编写的Python TCP回声服务器在单Docker容器中可正常运行，但部署为Docker Swarm Service时，客户端在sock.connect()步骤挂起。集群包含1个管理节点和2个工作节点，Nginx服务可正常部署并通过管理节点IP访问，最终通过Stack部署方式解决了连接问题。以下是针对相关技术疑问的解答：

1. 遗漏或操作错误的点 #

• 端口发布配置问题：手动部署Service时，可能未正确指定TCP端口的发布规则，比如缺少--publish published=xxx,target=xxx,protocol=tcp参数，导致Ingress路由网格无法转发流量
• 服务器绑定地址错误：如果代码中绑定的是127.0.0.1，容器内仅能本地访问，Swarm负载均衡无法将外部请求转发到容器，必须改为绑定0.0.0.0
• 健康检查缺失：Swarm仅向健康的副本转发流量，若未配置健康检查，可能误判副本未就绪，导致连接请求被挂起
• 网络配置问题：手动部署Service时可能未加入正确的overlay网络，而Stack部署会自动创建专属overlay网络，解决了服务间的网络互通问题

2. TCP Socket服务器设计需做的调整 #

• 强制绑定0.0.0.0：绝对不能绑定容器内的回环地址，确保Swarm负载均衡能将外部流量转发到容器
• 适配长连接场景：如果业务需要长连接，确保服务器能稳定维持连接，Swarm默认基于TCP连接进行转发
• 添加健康检查机制：可在服务器中实现简单的健康检测接口，或配置Swarm通过TCP端口检测副本状态，比如--health-cmd "nc -zv localhost 8080"
• 避免依赖固定IP/主机名：服务间通信统一使用Swarm服务名，不要依赖容器的固定IP或主机名

3. Swarm负载均衡下客户端与服务器的连接流程 #

• 客户端连接到Swarm集群任一节点（管理/工作节点）的发布端口
• 节点上的IPVS负载均衡器（Ingress路由网格）接收请求，按照默认轮询策略选择健康的服务副本
• 负载均衡器将请求转发到目标副本所在节点的容器端口，完成TCP连接建立

4. 是否始终连接到首次连接的服务器？ #

• 默认是基于TCP连接的会话保持：一旦客户端和某个副本建立连接，整个连接生命周期内的所有数据都会转发到该副本
• 断开连接后重新发起请求，会重新参与负载均衡，可能分配到其他副本；若需要粘性会话，可额外配置基于源IP的转发策略

5. 每个请求是否会被分发到不同服务器？ #

• 短连接场景：每次新的TCP连接都会被负载均衡器分配到不同的副本（默认轮询）
• 长连接场景：同一个连接内的所有请求都会发送到同一个副本，不会被分发到其他服务器

6. 是否所有服务器仅与负载均衡器建立连接，由负载均衡器维护客户端信息？ #

• 不是。Swarm的Ingress路由网格是反向代理+负载均衡模式：
  • 每个服务副本都独立监听自己的容器端口，Swarm负载均衡器会主动与健康副本建立转发通道
  • 客户端的源IP、端口等信息会被负载均衡器转发到后端副本，副本可以获取到客户端的原始信息（需正确配置端口发布模式）
  • 负载均衡器仅维护连接的会话映射，确保数据正确转发到对应的副本，客户端信息由副本自己维护

内容的提问来源于stack exchange，提问作者Abdelhadi Abdelhadi