如何为AWS负载均衡器后的客户端设计持久化WebSocket连接系统

负载均衡器选型与核心配置 #

• 选用Application Load Balancer (ALB)：ALB原生支持WebSocket的HTTP升级机制，且可配置源IP粘性会话，确保同一客户端的所有WebSocket流量始终路由到最初建立连接的后端实例。
  • 具体配置：在ALB的目标组中开启源IP粘性，超时时间设为客户端生命周期的最大值（或设为永久，直到客户端主动断开）；同时为目标组配置健康检查，比如用/health端点返回200状态码，确保仅向正常运行的WebSocket服务器转发流量。

WebSocket实例与弹性伸缩组（ASG）配置 #

• 制作EC2启动模板：打包好WebSocket服务器的运行环境（如Node.js、Python服务），通过启动脚本自动拉起服务并监听指定端口（建议配合ALB做HTTPS终止，使用443端口）。
• 配置ASG实现弹性伸缩：
  • 核心伸缩指标：除常规CPU、内存使用率外，重点监控单实例的WebSocket连接数。可通过CloudWatch Agent采集服务器暴露的连接数统计接口，上报自定义指标。
    • 扩容触发：当实例平均连接数达到承载上限的80%时，自动新增实例。
    • 缩容触发：当实例平均连接数低于承载上限的30%时，自动缩减实例。
  • 优化终止逻辑：将ASG的终止策略设置为优先终止最老实例，同时启用生命周期钩子——触发Lambda函数先将待终止实例从ALB目标组移除，等待300秒让现有连接自然断开后，再执行终止操作，避免直接中断活跃连接。

连接持久化的额外保障 #

• 客户端侧：添加自动重连逻辑，连接断开后自动尝试重连；ALB的粘性会话会将重连请求路由回原实例（若实例仍运行），若原实例已终止则路由至新实例建立新的持久连接。
• 服务器侧：维护客户端ID与连接的映射表，确保实例运行期间，所有针对该客户端的消息均通过已建立的连接发送。
• 缩容平滑处理：实例进入终止流程前，先标记为“不再接收新连接”；针对长期在线的客户端，服务器主动推送重连通知，让客户端提前切换至新实例，避免连接突然中断。

监控与告警 #

• 用CloudWatch监控以下指标：
  • ALB目标组的健康状态、流量分布情况
  • 每个EC2实例的WebSocket连接数、CPU/内存占用率
  • ASG的伸缩活动记录
• 设置告警：当连接数接近阈值、健康检查失败、伸缩异常时，通过SNS发送通知，及时处理问题。

内容的提问来源于stack exchange，提问作者eladm26