如何在AWS多机器环境下分发Spring Webclient请求并实现失败重试

1. 多机器请求分发实现 #

• 七层流量分发首选AWS应用负载均衡（ALB）：将所有部署Webflux服务的实例注册到ALB的目标组，ALB会默认按照轮询策略（也可自定义权重、最小连接数等规则）将请求分发到多台实例，适配Webflux异步非阻塞的调用特性，无需修改业务代码，只需将下游服务的调用域名替换为ALB的访问域名即可。
• 内部服务自定义分发可选服务发现方案：将所有服务实例注册到AWS Cloud Map或者自建Eureka注册中心，在Webflux的WebClient侧集成Spring Cloud LoadBalancer组件，即可自动拉取可用实例列表，按自定义规则完成请求分发，适合内部微服务之间的调用场景。

2. 失败响应存储与重试实现 #

分三级实现，兼顾性能和可靠性：

• 第一级：WebClient内置轻量重试
  直接在WebClient调用链中配置retryWhen操作符，指定重试规则，支持指数退避、异常过滤等能力，代码示例如下：

  // 第二个服务调用逻辑，paramList为第一个接口返回的参数列表
  webClient.post()
      .uri("/second/service/endpoint")
      .bodyValue(paramList)
      .retrieve()
      .bodyToMono(SecondServiceResponse.class)
      // 配置重试：最多重试3次，初始间隔2秒，指数退避
      .retryWhen(Retry.backoff(3, Duration.ofSeconds(2))
          // 只重试服务端错误、连接超时等可恢复异常
          .filter(ex -> ex instanceof WebClientResponseException.ServiceUnavailable 
              || ex instanceof ConnectTimeoutException
              || (ex instanceof WebClientResponseException respEx && respEx.getStatusCode().is5xxServerError()))
          .doBeforeRetry(signal -> log.warn("第{}次重试请求，请求参数：{}", signal.totalRetries() + 1, paramList))
      )
  

• 第二级：失败请求持久化存储
  本地重试用尽后仍失败的请求，可选择两种存储方案：
  • 低并发场景：存储到AWS DynamoDB，表结构包含请求ID、请求参数、失败原因、失败时间、已重试次数、下次重试时间字段，达到最大重试次数的请求标记为终态失败留待排查。
  • 高并发场景：存储到AWS SQS队列，配置消息可见性超时和死信队列，消费失败的消息会自动回到队列等待下次消费，达到最大接收次数的消息自动转入死信队列存储。
• 第三级：后台异步重试
  用AWS EventBridge定时触发Webflux定时任务，拉取到期的失败请求重新发起调用，调用成功则删除/归档失败记录，调用失败则更新重试次数和下次重试时间即可。

注意：不要对4xx类客户端错误（比如参数非法、权限不足）进行重试，这类错误重试无法解决，只会浪费系统资源；所有重试请求必须保证幂等，建议给每个请求生成唯一ID，下游服务做幂等校验，避免重复调用导致数据异常。

3. 现有业务逻辑适配 #

你现有的「调用第一个服务取列表→用列表作为参数调用第二个服务」的流程只需修改两处即可适配：

1. 将第二个服务的调用地址替换为ALB域名或服务发现的服务名，走负载均衡分发
2. 在第二个服务的WebClient调用逻辑后增加上述重试和失败存储逻辑，第一个服务的调用逻辑无需改动。

内容的提问来源于stack exchange，提问作者ShubhamDce