Flink 1.14.0使用Queryable State出现Direct buffer memory OOM报错

你遇到的报错是Flink 1.14版本可查询状态（Queryable State）的网络通信层基于Netty分配直接内存时，超过了JVM配置的直接内存上限，触发的堆外内存溢出错误。

• 核对当前集群TaskManager、Queryable State Proxy进程的堆外内存配置：检查taskmanager.memory.framework.off-heap.size、taskmanager.memory.task.off-heap.size的当前值，结合单次查询返回的状态大小、查询QPS，估算所需的堆外内存是否超过现有配置上限。
• 排查是否存在大状态查询场景：确认是否有单Key对应的状态值超过1MB、或者单次批量查询拉取大量Key状态的情况，这类请求会一次性占用大量直接内存。
• 检查流量控制配置：查看queryable-state.server.throughput-control.high-watermark、queryable-state.client.network.threshold参数的配置，确认是否没有配置合理的流量控制，导致并发请求过多耗尽直接内存。
• 核对JVM启动参数：确认进程是否手动配置了-XX:MaxDirectMemorySize参数，且参数值设置过小。

• 调配合适的堆外内存：根据估算的内存需求，调整TaskManager的堆外内存配置，参考配置如下：

# 框架层堆外内存，可按需调整
taskmanager.memory.framework.off-heap.size: 256m
# 任务层堆外内存，可按需调整
taskmanager.memory.task.off-heap.size: 512m

如果是独立部署的Queryable State Proxy节点，同步调整Proxy进程的堆外内存配置。

• 优化查询逻辑：避免单次查询返回超大状态，大状态可拆分多批次查询，同时限制客户端的并发查询QPS，避免突增流量打满内存。优先排查状态大小和查询逻辑问题，盲目调大内存可能掩盖业务逻辑缺陷，后续仍会触发OOM。
• 调整流量控制参数：配置合理的流量控制阈值，避免同时处理过多请求，参考配置如下：

# 服务端请求积压高水位，超过阈值后会拒绝新请求避免内存耗尽
queryable-state.server.throughput-control.high-watermark: 128
# 单请求大小阈值，超过阈值的请求会触发流量控制
queryable-state.client.network.threshold: 1m

• 调整JVM直接内存参数：如果手动配置了-XX:MaxDirectMemorySize，将其调大到不小于Flink配置的总堆外内存大小。
• 版本升级：Flink 1.14.0版本对可查询状态的内存复用逻辑存在优化空间，可升级到1.14的最新补丁版本，或1.15及以上稳定版本，降低直接内存的占用。

内容的提问来源于stack exchange，提问作者gaurav miglani