You need to enable JavaScript to run this app. 如何在GKE和Kong Ingress上设置每秒请求数(RPS)限制
优惠活动
大模型
产品
解决方案
定价
更多

如何在GKE和Kong Ingress上设置每秒请求数(RPS)限制

基于Kong Ingress Controller实现GKE集群入站QPS限流方案

Kong Ingress Controller通过自带的rate-limiting插件即可实现不同粒度的每秒请求数限制,无需额外部署第三方组件,具体配置方法如下:

前置条件

确认当前部署的Kong Ingress Controller版本≥2.0,已启用CRD资源支持。

配置方式(按适用范围选择)

1. 全局集群限流

对所有经过Kong Ingress的入站请求统一生效,使用KongClusterPlugin全局资源配置:

apiVersion: configuration.konghq.com/v1
kind: KongClusterPlugin
metadata:
  name: global-qps-limit
  annotations:
    kubernetes.io/ingress.class: kong
config:
  second: 100 # 自定义每秒请求上限,此处为每秒100请求
  limit_by: ip # 限流维度:按客户端IP统计,可选值包括consumer、service、header等
  policy: local # 单Kong节点本地计数,多节点部署需要全局精准限流时可改为redis并补充redis连接配置
plugin: rate-limiting

2. 单Ingress规则限流

仅对指定Ingress对应的业务入口生效,先创建命名空间级别的KongPlugin资源:

apiVersion: configuration.konghq.com/v1
kind: KongPlugin
metadata:
  name: demo-service-qps-limit
  namespace: your-namespace
config:
  second: 50 # 该Ingress入口每秒上限50请求
  limit_by: ip
  policy: local
plugin: rate-limiting

再给对应Ingress添加注解绑定插件:

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:
  name: demo-service-ingress
  namespace: your-namespace
  annotations:
    kubernetes.io/ingress.class: kong
    konghq.com/plugins: demo-service-qps-limit # 绑定上述限流插件
spec:
  rules:
  - host: your-service-domain.com
    http:
      paths:
      - path: /
        pathType: Prefix
        backend:
          service:
            name: demo-service
            port:
              number: 80

3. 单Service限流

对指定K8s Service的所有访问请求生效,无论流量来自哪个Ingress规则,直接给Service添加绑定插件的注解即可:

apiVersion: v1
kind: Service
metadata:
  name: demo-service
  namespace: your-namespace
  annotations:
    konghq.com/plugins: demo-service-qps-limit
spec:
  ports:
  - port: 80
    targetPort: 8080
  selector:
    app: demo-service

生效验证

配置提交后10秒左右即可生效,请求超过阈值时Kong会返回429 Too Many Requests状态码,响应头中会携带X-RateLimit-Limit、X-RateLimit-Remaining等字段,可通过该字段确认限流规则是否匹配预期。

注意事项

  • 多Kong实例部署场景下,policy: local为每个节点单独计数,总限流阈值为单节点阈值×节点数,需要全局精准计数时可将policy改为redis,并补充redis地址、端口、密码等配置项。
  • 可通过调整limit_by参数实现不同维度的限流,比如按用户身份、按请求头、按上游服务等。

内容的提问来源于stack exchange,提问作者Hugo Sartori

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.10.11 00:12:01