Mulesoft是否支持3k-4k高TPS API及相关运行指标咨询

关于MuleSoft是否支持3k-4k TPS级别的API #

MuleSoft 完全支持3k-4k TPS量级的高吞吐量API部署，目前在金融核心交易、电商大促营销、政企公共服务等领域已经有大量成熟的落地实践，部分经过优化的透传类API甚至可以实现单集群超过1万TPS的吞吐量。

3k-4k TPS场景下的运行指标参考建议 #

• vcores配置要求
  该配置和API的业务逻辑复杂度强相关：
  1. 如果是仅做路由、基础参数校验的透传类API，单1 vCore的Mule 4.x运行时可承载800~1200 TPS，3k-4k TPS场景下配置4~6个vCore做集群部署即可，预留30%的冗余应对流量峰值即可。
  2. 如果是包含复杂数据转换、多下游系统编排调用的业务类API，单1 vCore的运行时可承载300~500 TPS，建议配置8~12个vCore，同时开启运行时自动扩容策略应对突发流量。
• 内存占用指标
  常规生产环境下，每个vCore对应分配2GB的JVM堆内存即可满足需求。如果涉及大量单条1MB以上的大报文处理场景，可将单vCore对应的堆内存调整为4GB，同时将JVM新生代与老年代比例设置为1:2，避免频繁Full GC影响性能。3k-4k TPS场景下，集群整体内存占用稳定在总分配内存的40%~60%为健康状态，超过70%时需要排查内存泄漏问题或者调整内存配置。
• 网络带宽需求
  带宽需求和API的平均报文大小直接相关，计算时建议预留20%的TCP协议开销冗余：
  1. 若为平均报文大小10KB左右的常规JSON接口，3k TPS需要约300Mbps带宽，4k TPS需要约400Mbps带宽。
  2. 若为平均报文大小100KB的大报文接口，3k TPS需要约3Gbps带宽，4k TPS需要约4Gbps带宽，建议配套10Gbps网卡避免网络瓶颈。

以上为通用场景下的参考值，实际部署时建议结合自身API的业务逻辑做压测验证，根据压测结果调整配置。

内容的提问来源于stack exchange，提问作者Developer