外部API返回429时，自身API应返回何种响应？是否需配置熔断机制？

自身API该返回什么响应？ #

• 优先返回429 Too Many Requests，而非500。
  • 返回500会让客户端误以为是你的服务内部故障，大概率触发重试逻辑，反而给已限流的外部API增添压力；返回429能明确告知客户端请求频率超限，还可在响应头中添加Retry-After字段，指定可重试的时间，完全契合HTTP语义。
  • 除非有必须隐藏外部依赖限流状态的特殊业务需求，否则不要返回500——这只会误导客户端，增加双方的调试成本。

要不要配置熔断机制？ #

• 必须配置，且建议结合本地限流一起实施。
• 具体可参考这些方案：
  • 断路器模式：当外部API返回429的频率达到设定阈值（比如连续10次返回429），暂时切断对该API的调用，间隔一段时间后再尝试恢复，避免持续向限流的外部API发送请求。
  • 本地限流：在自身API层先设置限流规则，比如限制每秒最多转发N个请求到外部API，从源头降低触发外部限流的概率。
  • 结果缓存：如果外部API的返回结果允许缓存，添加缓存层，重复请求直接返回缓存内容，无需每次调用外部API。

内容的提问来源于stack exchange，提问作者Punter Vicky