负载均衡多实例集群下的Eventsource问题及解决方案咨询

这个问题在分布式长连接应用场景里挺常见的，它一般被称为**「长连接路由不匹配问题」，本质上属于分布式系统中的状态同步缺失问题**——因为你的EventSource长连接绑定在某个实例上，但Hook请求被负载均衡分发到了另一个实例，两个实例之间没有共享请求状态，所以前端收不到消息。

针对AWS的弹性扩缩容部署模型，这里有几个可行的修改方案：

1. 启用会话亲和性（粘性会话） #

AWS的负载均衡（ALB/NLB）支持配置Sticky Sessions，它会给用户的请求打上Cookie，后续同一用户的所有请求（包括EventSource长连接和Hook请求）都会被路由到同一个实例。这种方式改动最小，只需要在负载均衡控制台开启对应的配置即可。

不过要注意：

• 当实例被销毁或缩容时，用户的长连接会断开，需要重新连接
• 可能导致负载不均衡，比如某个实例绑定了大量用户会话

2. 引入共享数据层+发布订阅模式（推荐） #

这和你推测的思路一致，通过中间件实现实例间的状态同步，步骤大概是：

• 选择一个支持发布订阅的共享存储，比如AWS ElastiCache（Redis）或者Amazon MQ
• 当任意实例收到Hook请求时，把请求内容写入共享存储的同时，发布到一个指定的消息频道
• 每个运行EventSource服务的实例都订阅这个频道，一旦收到新消息，就推送给当前连接到该实例的所有前端客户端

举个简单的代码逻辑示例：

# 收到Hook请求时的处理
def handle_hook(request):
    # 1. 把请求内容存入Redis
    redis_client.setex(f"hook:{uuid.uuid4()}", 3600, json.dumps(request.data))
    # 2. 发布到消息频道
    redis_client.publish("hook_events", json.dumps(request.data))

# EventSource连接的处理
def handle_eventsource(response):
    # 订阅频道
    pubsub = redis_client.pubsub()
    pubsub.subscribe("hook_events")
    # 持续推送消息给客户端
    for message in pubsub.listen():
        if message["type"] == "message":
            response.write(f"data: {message['data'].decode()}\n\n")
            response.flush()

这种方案完全适配AWS的弹性扩缩容，不管实例怎么增减，所有实例都能同步Hook消息，而且负载均衡可以自由分发请求，不会有负载不均的问题。

3. 改用AWS托管的推送服务 #

如果不想自己维护共享存储和消息逻辑，可以直接用AWS的托管服务：

• 用API Gateway WebSocket API替代自己的EventSource服务，它会自动处理连接管理和消息推送
• Hook请求可以发送到API Gateway或者Lambda，然后通过WebSocket API把消息推送给所有连接的客户端
• 或者用Amazon AppSync构建实时数据同步，它支持订阅模式，能直接把Hook事件推送给前端

这种方案不用自己处理实例间的同步，完全利用AWS的托管服务，运维成本更低。

内容的提问来源于stack exchange，提问作者hendry