OPA能否支持极高并发高吞吐场景？如何配置调优性能？

场景适配结论 #

OPA完全可以应用于并发、吞吐量要求极高的业务场景。你遇到的CPU配额扩容后吞吐量无明显提升的问题，属于默认配置未针对高负载场景调优的典型表现，和OPA本身的性能上限无关。
默认配置下1vCPU支撑2.5k RPS属于正常水平，未做调优的OPA实例无法利用多核心算力，也存在多处IO、并发限制卡点，直接扩容CPU不会带来性能收益。

核心配置调优项 #

要让OPA充分利用分配的计算资源，必须在启动时调整以下配置：

基础运行时配置 #

• 配置GOMAXPROCS环境变量，取值和容器分配的vCPU数完全一致。OPA基于Go语言开发，旧版本镜像无法自动识别容器cgroup的CPU配额，会出现多核心下调度异常、上下文切换过高的问题，直接绑定CPU核心数即可解决。例如分配4vCPU时设置GOMAXPROCS=4。

日志配置 #

默认配置下OPA会同步输出每一笔决策的info级别日志，日志IO会直接阻塞请求处理链路，是多核心下性能无法提升的最常见原因：

• 不需要逐笔决策日志时，直接添加启动参数--log-level=error，关闭info级别的决策日志输出
• 需要留存决策日志时，添加启动参数--decision-logs-buffer-size=10000，将日志改为异步缓冲模式，避免阻塞主请求路径

HTTP服务配置 #

OPA内置的HTTP服务默认参数面向低流量管理场景设计，并发限制非常保守：

• 添加--max-concurrent-queries=0，取消默认的并发查询数限制（默认仅允许20个并发查询，超出直接拒绝）
• 配置连接超时参数：--server-read-timeout=5s --server-write-timeout=5s --server-idle-timeout=120s，避免无效连接占用资源
• 非必要场景下关闭调试、状态类接口：--disable-pprof --disable-status，减少非业务请求的资源占用

缓存配置 #

• 添加--decision-cache-size=100000开启决策结果缓存，相同输入的策略请求直接返回缓存结果，避免重复计算
• 使用bundle模式分发策略和数据时，添加--bundles-cache-size=1024开启bundle缓存，避免重复拉取策略包

2000并发、40K RPS目标的落地建议 #

仅靠单实例OPA无法达到40K RPS的性能目标，需要配合部署架构调整：

• 单实例性能基线：4vCPU、8G内存配置下，经过上述调优后，执行简单Rego策略的单实例OPA可以稳定支撑8k-12k RPS，策略逻辑越简单性能越高。要达到40K RPS需要部署4-6个实例，通过负载均衡层分摊流量。
• 策略提前编译：使用opa build命令将Rego策略提前编译为可执行的bundle包，不要让运行中的OPA实例动态编译策略，避免占用额外CPU。
• 数据本地化：所有策略依赖的属性、数据提前通过bundle推送到OPA本地内存，禁止在Rego规则中编写HTTP调用、外部数据库查询等IO逻辑，否则性能瓶颈会出现在外部依赖上，扩容CPU无收益。
• 负载均衡层开启长连接复用：OPA对HTTP/1.1长连接、HTTP/2支持完善，LB层需要开启连接复用，避免每次请求新建TCP连接的握手开销。

内容的提问来源于stack exchange，提问作者Ashay Fernandes