Spring AI MCP多实例部署后客户端SSE连接报404问题咨询

Spring AI MCP Server 多实例支持情况 #

Spring AI MCP Server（SSE模式）本身支持多实例部署，但需要解决SSE连接的会话亲和性问题，这是你遇到404错误的核心原因。

404错误的根因 #

SSE是基于HTTP的长连接，客户端首次建立连接后，后续的消息交互需要和同一个服务器实例通信——因为MCP Server的SSE会话状态是存储在实例内存中的，没有做分布式共享。当你部署多实例且未配置会话亲和时，客户端初始化连接到实例A，后续请求可能被负载均衡器转发到实例B，而实例B上没有对应的会话，就会返回404错误。

是否需要客户端维持连接IP？ #

不需要客户端额外配置绑定IP，问题出在服务端的负载均衡配置上。你需要在负载均衡层（比如Nginx、Kubernetes Ingress等）配置会话亲和性（粘性会话），确保同一个客户端的所有请求都转发到同一个MCP Server实例。

开箱即用多实例的实现方案 #

要实现无需客户端配置的多实例部署，你需要：

• 配置负载均衡的粘性会话：比如Nginx可以用ip_hash指令，Kubernetes Ingress可以配置sessionAffinity: ClientIP；
• 若要彻底摆脱实例内存会话的限制，可以考虑扩展MCP Server的会话存储，将会话状态迁移到分布式缓存（如Redis），但当前Spring AI MCP Server的SSE实现默认没有提供这个扩展点，需要自行基于源码改造。

临时验证方案 #

在负载均衡器上临时开启粘性会话，重新部署多实例，客户端连接时就能正常建立SSE通道，不会再出现404错误。

内容的提问来源于stack exchange，提问作者zhong shen