求助：Micronaut(Netty)输入队列限制方案，避免高负载OOM

核心问题复盘 #

应用预热阶段（JIT未完成）处理请求速度慢，IO线程队列持续堆积，Survivor区溢出触发Full GC，进一步拖慢处理速度，最终引发OOM。以下是针对性的可行方案：

1. 正确配置Netty与Micronaut的有界队列 #

你之前的配置可能存在生效时机不对或覆盖不全的问题，调整如下：

（1）application.yml 完整队列配置 #

micronaut:
  server:
    port: 8080
    netty:
      parent:
        threads: 2
        options:
          SO_BACKLOG: 16 # 控制新TCP连接的排队上限，超出后直接拒绝连接
      worker:
        threads: 2
        options:
          maxPendingTasks: 16 # Worker线程待处理任务队列的硬上限
  executors:
    io:
      n-threads: 1
      parallelism: 1
      type: FIXED
      queue-type: ARRAY_BLOCKING_QUEUE # 使用有界数组队列（默认可能是无界）
      queue-capacity: 8 # IO执行器的任务队列上限
    scheduled:
      n-threads: 1
      parallelism: 1
      corePoolSize: 1

（2）确保Netty系统属性提前生效 #

不要在代码中动态设置Netty属性，而是在JVM启动参数中添加，避免Netty初始化后配置无效：

-Dio.netty.eventLoop.maxPendingTasks=16 
-Dio.netty.eventexecutor.maxPendingTasks=16 
-Dio.netty.eventLoopThreads=1

2. 优化就绪探针，确保JIT完全预热 #

现有3000次随机请求的探针可能未覆盖核心业务代码，调整方向：

• 发送与实际生产一致的业务请求，触发核心接口的JIT编译
• 增加预热时长或请求次数，直到JVM编译统计中热点代码（通过JMX或-XX:+PrintCompilation查看）不再新增
• 可选：添加自定义指标，监控JIT编译完成状态，探针仅在编译完成后返回就绪

3. 启用队列溢出拒绝策略 #

当队列达到上限时直接拒绝新请求，避免无限堆积：

自定义Netty ChannelHandler实现溢出保护 #

import io.micronaut.context.annotation.Requires;
import io.micronaut.http.server.netty.NettyServerCustomizer;
import io.netty.channel.ChannelHandlerContext;
import io.netty.channel.ChannelInboundHandlerAdapter;
import io.netty.channel.EventLoop;
import io.netty.handler.codec.http.DefaultFullHttpResponse;
import io.netty.handler.codec.http.HttpResponseStatus;
import io.netty.handler.codec.http.HttpVersion;
import io.netty.util.ReferenceCountUtil;
import jakarta.inject.Singleton;

@Singleton
@Requires(property = "micronaut.server.netty.queue-overflow-protection", defaultValue = "true")
public class QueueOverflowProtection implements NettyServerCustomizer {

    @Override
    public void onServerChannelInitialized(ChannelHandlerContext ctx) {
        ctx.pipeline().addFirst("queue-overflow-handler", new ChannelInboundHandlerAdapter() {
            @Override
            public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
                EventLoop eventLoop = ctx.channel().eventLoop();
                // 与maxPendingTasks配置值保持一致
                if (eventLoop.pendingTasks() >= 16) {
                    // 返回503服务不可用
                    DefaultFullHttpResponse response = new DefaultFullHttpResponse(
                            HttpVersion.HTTP_1_1, HttpResponseStatus.SERVICE_UNAVAILABLE);
                    ctx.writeAndFlush(response);
                    // 释放请求资源，避免内存泄漏
                    ReferenceCountUtil.release(msg);
                    return;
                }
                super.channelRead(ctx, msg);
            }
        });
    }
}

4. 调整GC参数，降低Full GC影响 #

通过GC优化减少暂停时间，避免处理速度进一步恶化：

-XX:+UseG1GC 
-XX:SurvivorRatio=6 # 增大Survivor区比例，减少对象晋升到老年代的频率
-XX:MaxGCPauseMillis=200 # 控制最大GC暂停时间
-XX:+ParallelRefProcEnabled # 并行处理引用，加快GC速度

内容的提问来源于stack exchange，提问作者Тим