API网关限流——突发限制vs率限制

API网关常用于管理API的访问和限流。在限制API调用频率方面，通常使用两种不同的限制方式：突发限制和率限制。

突发限制是指允许瞬间承受一定数量的流量，而仍然保持固定的速率。例如，如果您设置突发限制为10，则API网关将允许一次性处理10个请求，但如果请求速度过快，API网关将限制进一步的请求，直到速率降至限制内。

率限制是指在单位时间内允许处理的最大请求数量。例如，如果您将速率限制设置为一分钟内处理100个请求，则API网关将尽力确保不超过该速率限制。

以下是使用AWS Lambda和API Gateway实现突发限制和速率限制的代码示例：

突发限制代码示例

在API Gateway上，您可以使用default值限制每秒的请求数量和“Burst Limit”。

在AWS Lambda中，您可以在函数上添加@rate_limited装饰器来限制每秒钟调用该函数的数量。

from functools import wraps import time

def rate_limited(max_per_second): min_interval = 1.0 / float(max_per_second)

def decorate(func):
    last_time_called = [0.0]

    @wraps(func)
    def rate_limited_function(*args, **kargs):
        elapsed = time.perf_counter() - last_time_called[0]
        left_to_wait = min_interval - elapsed

        if left_to_wait > 0:
            time.sleep(left_to_wait)

        ret = func(*args, **kargs)
        last_time_called[0] = time.perf_counter()

        return ret

    return rate_limited_function

return decorate

@rate_limited(10) def my_lambda_function(event, context): # 你的lambda代码

速率限制