如何为Node.js TCP服务器实现背压控制？

Node.js默认会自动接收监听套接字上的所有连接，这确实可能引发内存无限膨胀的问题——当大量连接短时间内涌入，未及时处理的连接会持续占用内存资源。有意思的是，虽然listen()方法提供了backlog参数，但它实际控制的是操作系统层面的连接队列大小，而非Node.js应用层的accept()行为，所以即便设置了backlog，Node.js还是会不断从系统的已完成连接队列中取出新连接。

下面提供两种可行的限制方案：

1. 用pause()/resume()手动控制连接接收 #

Node.js的net.Server对象内置了pause()方法，调用后会暂停从系统队列中取出新连接；当你处理完部分现有连接、有能力接收新连接时，再调用resume()恢复。

示例代码：

const net = require('net');

const server = net.createServer((socket) => {
  // 处理连接逻辑
  socket.on('data', (data) => {
    socket.write('收到数据: ' + data);
  });
  socket.on('end', () => {
    console.log('客户端断开连接');
    // 连接断开后恢复接收（可根据业务场景调整时机）
    server.resume();
  });
});

// 初始启动监听
server.listen(3000, () => {
  console.log('服务器监听端口3000');
});

// 限制同时处理5个连接
let activeConnections = 0;
const MAX_CONCURRENT = 5;

server.on('connection', () => {
  activeConnections++;
  if (activeConnections >= MAX_CONCURRENT) {
    console.log('达到最大并发连接数，暂停接收新连接');
    server.pause();
  }
});

注意：pause()只是让Node.js停止取连接，操作系统的连接队列仍会接收新请求。如果队列满了，新的连接请求会被系统直接拒绝，所以建议结合backlog参数一起设置，形成双重限制。

2. 自定义连接池+信号量限流 #

如果需要更精细的流量控制，可以用信号量（Semaphore）来维护并发连接数，确保同时处理的连接数不超过阈值：

const net = require('net');
const { Semaphore } = require('async-mutex');

// 限制同时处理10个连接
const connectionSemaphore = new Semaphore(10);

const server = net.createServer(async (socket) => {
  // 获取信号量，无可用资源时会等待
  const release = await connectionSemaphore.acquire();
  try {
    // 处理连接逻辑
    socket.on('data', (data) => {
      socket.write('处理后的数据: ' + data);
    });
    socket.on('end', () => {
      console.log('客户端断开');
      release(); // 释放信号量，允许新连接进入
    });
    socket.on('error', () => {
      release(); // 出错时也要释放信号量，避免死锁
    });
  } catch (err) {
    release();
    console.error('连接处理出错:', err);
  }
});

// 同时设置backlog限制系统队列大小
server.listen(3000, { backlog: 15 }, () => {
  console.log('服务器启动，backlog设置为15');
});

这里用async-mutex的Semaphore做并发控制，配合backlog参数限制系统层面的连接队列，能有效避免连接积压导致的内存膨胀。

关于backlog参数的补充说明 #

backlog的实际行为依赖于操作系统：

• 在Linux系统中，它控制的是**已完成连接队列（ACCEPT队列）**的大小，半连接队列（SYN队列）则由内核参数net.ipv4.tcp_max_syn_backlog控制。
• Node.js传入的backlog值会传递给系统的listen()调用，但系统可能会根据自身限制调整这个值（比如设为允许的最大队列长度）。

所以单独设置backlog无法限制Node.js的accept()行为，必须结合应用层的限流逻辑才能解决内存膨胀问题。

内容的提问来源于stack exchange，提问作者Paul Draper