Node.js API请求转发性能优化求助：高延迟与路由阻塞问题

核心问题根源 #

你的代码中，虽然已经向客户端返回了success，但await axiosAgent.post会让请求回调函数一直占用事件循环线程直到转发请求完成。Node.js单线程事件循环的特性导致高负载下大量这类挂起的回调会阻塞其他路由的处理，同时连接池配置过低也会导致转发请求排队等待可用连接，进一步加剧响应延迟。

具体优化方案 #

1. 移除await，让转发请求脱离请求回调线程

既然不需要把转发结果返回给客户端，完全不需要等待转发请求完成，直接发起请求即可，释放当前事件循环线程处理其他请求：

app.post('/request-forwarding', (req, res) => {
  res.status(200).send('success');

  const config = {
    headers: {
      'Content-Type': 'application/json;charset=UTF-8'
    }
  };

  // 移除await，直接发起请求，后台处理结果
  axiosAgent.post('https://myserver.com/receive-request', req.body, config)
    .then(response => console.log(response.data))
    .catch(err => console.log(err.message));
});

2. 优化连接池配置

当前maxSockets:16远低于负载测试的200连接数，导致大量转发请求排队等待可用连接。调高连接池参数，匹配你的负载规模：

const httpsAgent = new HttpsAgent({
  maxSockets: 200, // 匹配负载测试的连接数，可根据实际调整
  maxFreeSockets: 100,
  timeout: 60000,
  freeSocketTimeout: 30000
});

3. 改用原生HTTP模块减少开销

Axios封装了较多功能，带来额外性能开销。如果不需要复杂特性，改用Node.js原生https模块可以显著降低转发延迟：

const https = require('https');

app.post('/request-forwarding', (req, res) => {
  res.status(200).send('success');

  const body = JSON.stringify(req.body);
  const options = {
    hostname: 'myserver.com',
    path: '/receive-request',
    method: 'POST',
    headers: {
      'Content-Type': 'application/json;charset=UTF-8',
      'Content-Length': Buffer.byteLength(body)
    },
    agent: httpsAgent // 复用之前的keepalive agent
  };

  const proxyReq = https.request(options, (proxyRes) => {
    let data = '';
    proxyRes.on('data', chunk => data += chunk);
    proxyRes.on('end', () => console.log(data));
  });

  proxyReq.on('error', err => console.log(err.message));
  proxyReq.write(body);
  proxyReq.end();
});

4. 启用Node.js Cluster模式利用多核CPU

Node.js单线程无法充分利用服务器多核CPU，启用Cluster模块可以创建多个子进程，提高并发处理能力：

const cluster = require('cluster');
const numCPUs = require('os').cpus().length;

if (cluster.isPrimary) {
  console.log(`Primary ${process.pid} is running`);

  // 为每个CPU创建子进程
  for (let i = 0; i < numCPUs; i++) {
    cluster.fork();
  }

  cluster.on('exit', (worker, code, signal) => {
    console.log(`worker ${worker.process.pid} died`);
    cluster.fork(); // 进程崩溃时自动重启
  });
} else {
  // 这里放置你的Express应用代码
  const express = require('express');
  const app = express();
  
  // ... 你的路由和其他配置 ...

  app.listen(3000, () => {
    console.log(`Worker ${process.pid} started`);
  });
}

5. 检查Azure实例资源瓶颈

旧版Azure S2实例的硬件资源（CPU/内存）可能无法支撑200并发连接的负载。登录Azure门户查看实例的监控数据：

• 如果CPU使用率持续超过80%，说明CPU资源不足，需要升级实例规格（如S3或更高）
• 如果内存占用过高，检查是否有内存泄漏，或升级实例内存

验证建议 #

优化后重新用autocannon做负载测试，同时监控：

• 目标路由的响应时间
• /blocked路由的响应时间
• Azure实例的CPU/内存使用率

内容的提问来源于stack exchange，提问作者Helfer