BizTalk 2013 R2：消息洪流下的Rate Based Throttling技术问询

针对你在大数据量Web API集成场景下遇到的问题，以及对Rate Based Throttling的几个疑问，我结合实际项目经验给你梳理下：

1. 启用限流后是否仅处理最低采样数/消息数？剩余消息如何处理？ #

启用限流后可不是只处理“最低采样数”，而是严格按照你设定的单位时间限流阈值来放行消息。比如你设置1秒内允许处理1000条，那系统会在每个时间窗口里优先处理满1000条，剩下的消息不会被直接丢弃，而是进入系统的内置排队机制等待下一个时间窗口的配额。

简单说就是：符合限流规则的消息正常处理，超出的先“排队等号”，轮到了再处理。

2. 剩余消息在内存中排队上限为100，超出部分去向何处？ #

如果内存队列的上限是100，超出部分的处理逻辑主要看你所用系统的配置，常见的两种情况：

• 持久化到磁盘队列：大部分集成系统会把溢出的消息写入磁盘上的持久化队列，避免消息丢失。等内存队列有空位时，再从磁盘队列里读取消息进来处理。
• 触发拒绝/异常：如果没配置磁盘队列，或者磁盘队列也满了，那超出的消息会被系统拒绝接收，同时抛出类似“队列容量不足”的异常。这种情况就得考虑调大队列上限、优化限流阈值，或者加个重试机制兜底。

3. 2秒内涌入2350条消息，改为1秒采样窗口+设置Throttling override是否有效？ #

这种调整是有效的，但得结合API实际能承受的并发量来算合理的阈值：
假设你的API每秒稳定能处理1000条，那把Sampling Window改成1秒，同时把Throttling override的阈值设为1000，就能确保每秒只放行1000条消息。2秒内的2350条消息会被拆分处理：第一个1秒窗口处理1000条，剩下1350条进入队列；第二个1秒窗口再处理1000条，最后350条继续等下一个窗口。

不过这里要提个醒：调整前最好先拿到供应商给的API容量数据，这样设置的限流值才贴合实际——不然要么限流太松还是触发异常，要么限流太紧导致消息处理延迟过高。

另外，你之前遇到的大数据量端口异常，除了限流，也可以考虑批量请求优化：把多条消息打包成一个请求发给API，减少单请求的频次，有时候比单条限流更高效，当然这得API本身支持批量接口才行。

内容的提问来源于stack exchange，提问作者mrc85