使用Netty Server搭建gRPC服务出现内存溢出（OOM）问题

1. 彻底禁用Thread Local Cache并限制直接内存 #

仅靠系统属性-Dio.netty.noDirectMemoryCache=true可能不生效，必须在代码中显式配置分配器的缓存参数：

NettyServerBuilder.forPort(port)
    .channelOption(ChannelOption.ALLOCATOR, PooledByteBufAllocator.DEFAULT)
    // 直接设置缓存分配器为null，彻底禁用线程本地缓存
    .channelOption(ChannelOption.DIRECT_MEMORY_CACHE_ALLOCATOR, null)
    .build();

同时配合JVM参数限制直接内存上限：-Dio.netty.maxDirectMemory=1024m（根据系统可用内存调整，建议不超过物理内存的30%）。

2. 自定义池化分配器，严格控制缓存规模 #

如果不能完全禁用缓存，自定义PooledByteBufAllocator来限制单线程缓存和全局内存池大小：

// 自定义池化分配器，减少arena数量、限制chunk大小
PooledByteBufAllocator customAllocator = new PooledByteBufAllocator(
    true, // 优先使用直接内存
    2, // 堆内存arena数量
    2, // 直接内存arena数量
    16 * 1024, // 页大小（16KB）
    10 // 最大阶数（chunk大小=16KB*2^10=16MB）
);
// 设置单个线程的缓存上限为32KB
customAllocator.setThreadCacheSize(32 * 1024);

NettyServerBuilder.forPort(port)
    .channelOption(ChannelOption.ALLOCATOR, customAllocator)
    .build();

这样能避免单个线程缓存占用过多内存，同时控制全局池的内存规模。

3. 针对大请求/响应场景调整分配策略 #

如果服务处理大体积的请求或响应（比如超过50MB的payload），改用非池化分配器，避免缓存大缓冲区：

NettyServerBuilder.forPort(port)
    .channelOption(ChannelOption.ALLOCATOR, UnpooledByteBufAllocator.DEFAULT)
    // 添加拦截器，确保消息缓冲区被及时释放
    .intercept(new ServerInterceptor() {
        @Override
        public <ReqT, RespT> ServerCall.Listener<ReqT> interceptCall(ServerCall<ReqT, RespT> call, Metadata headers, ServerCallHandler<ReqT, RespT> next) {
            return new ForwardingServerCallListener.SimpleForwardingServerCallListener<>(next.startCall(call, headers)) {
                @Override
                public void onMessage(ReqT message) {
                    super.onMessage(message);
                    // 手动释放消息携带的缓冲区（如果是ByteBufHolder类型）
                    if (message instanceof ByteBufHolder) {
                        ((ByteBufHolder) message).content().release();
                    }
                }
            };
        }
    })
    .build();

非池化分配器虽然性能略低，但不会缓存缓冲区，适合大对象频繁创建的场景。

4. 精简Netty线程数，减少缓存总占用 #

Netty默认创建CPU核心数*2的EventLoop线程，每个线程都有独立的Thread Local Cache，线程越多总缓存占用越大。手动调整线程数：

// Boss线程仅需1个，负责接收连接
EventLoopGroup bossGroup = new NioEventLoopGroup(1);
// Worker线程数根据业务并发调整，比如设置为CPU核心数即可
EventLoopGroup workerGroup = new NioEventLoopGroup(Runtime.getRuntime().availableProcessors());

NettyServerBuilder.forPort(port)
    .bossEventLoopGroup(bossGroup)
    .workerEventLoopGroup(workerGroup)
    .build();

减少线程数直接降低Thread Local Cache的总内存占用。

5. 启用内存泄漏检测，定位隐性问题 #

添加JVM参数-Dio.netty.leakDetectionLevel=advanced，开启Netty的内存泄漏检测。检测日志会输出未释放ByteBuf的调用栈，帮助定位代码中未正确释放缓冲区的泄漏点——这是很多直接内存OOM的隐性原因。

内容的提问来源于stack exchange，提问作者user2649857