gRPC(Node.js)服务器处理完所有RPC才返回响应的问题咨询

问题现象 #

服务器接收客户端多个RPC请求时，不会在单个请求处理完成后立即返回响应，而是要等所有请求处理完毕才统一返回，不符合“逐个处理并依次返回响应”的预期。

环境与代码片段 #

Proto 文件 #

service Rewriter {
  rpc Test(TestRequest) returns (TestResponse) {} // 请求和响应均包含单个字符串字段
}

服务器代码 (server.js) #

var _test = function () {
 // 耗时数秒的CPU密集型计算
  return { content: "test" };
};

var test = function (call, callback) {
  callback(null, _test());
};
var server = new grpc.Server();
server.addService(rewriter.Rewriter.service, {
    test: test,
  });
server.bindAsync(
  `0.0.0.0:1234`,
  grpc.ServerCredentials.createInsecure(),
  () => {
    server.start();
  }
);

客户端代码 (client.js) #

var client = new rewriter.Rewriter(
  "localhost:1234",
  grpc.credentials.createInsecure()
);
// 连续调用10次test方法
client.test(callback);
client.test(callback);
// ... 重复至10次

问题原因与解决方案 #

原因 #

Node.js是单线程事件循环模型，你的_test函数是同步CPU密集型操作，会直接阻塞整个事件循环。当多个请求到达时，服务器必须等当前同步计算完全结束，才能处理下一个请求，最终导致所有响应被批量返回。

解决方案 #

把CPU密集型操作放到异步任务中，避免阻塞主线程事件循环，推荐使用worker_threads模块将计算逻辑放到独立线程执行：

修改后的服务器代码示例

const { Worker } = require('worker_threads');

var test = function (call, callback) {
  // 创建子线程处理CPU密集计算
  const worker = new Worker('./compute.js', { workerData: {} });
  worker.on('message', (result) => {
    callback(null, { content: result });
    worker.terminate();
  });
  worker.on('error', (error) => {
    callback(error, null);
    worker.terminate();
  });
};

// 其余服务器初始化代码保持不变

compute.js（子线程执行的计算逻辑）

const { parentPort, workerData } = require('worker_threads');

function _test() {
  // 耗时数秒的CPU密集型计算
  return "test";
}

parentPort.postMessage(_test());

这样每个请求的计算逻辑在独立线程中执行，不会阻塞主线程，服务器就能在单个请求处理完成后立即返回响应，实现预期的逐个返回效果。

内容的提问来源于stack exchange，提问作者Ayush Goel