Node.js如何限制并发？自研Limiter类方案是否可行？

你的核心思路——用信号量模式结合等待队列实现并发限制，达到系统繁忙时阻塞新请求、将压力传导至客户端的目的——是完全正确的，也避免了你提到的“无限创建Promise”的问题。不过原实现有几个细节需要调整，才能完全符合预期：

1. 修正run方法的结果返回与错误处理 #

原run方法没有返回任务的执行结果，也无法让调用者捕获任务抛出的错误，这会导致await limiter.run(myFunc)的行为和原await myfunc()不一致。应该用try/finally包裹任务执行，确保无论成功失败都会释放许可，同时返回任务结果或抛出错误。

2. 支持你期望的直接调用语法 #

原实现需要调用limiter.run(myFunc)，你希望改成await limiter(myFunc)，可以通过Proxy让Limiter实例支持直接调用。

修正后的完整代码 #

class Limiter {
    constructor(maxConcurrent) {
        this.maxConcurrent = maxConcurrent;
        this.currentCount = 0;
        this.waitingResolvers = [];
        
        // 绑定run方法的this指向，并通过Proxy让实例可直接调用
        this.run = this.run.bind(this);
        return new Proxy(this, {
            apply(target, _, args) {
                return target.run(...args);
            }
        });
    }

    async acquire() {
        if (this.currentCount < this.maxConcurrent) {
            this.currentCount++;
        } else {
            await new Promise(resolve => this.waitingResolvers.push(resolve));
        }
    }

    release() {
        if (this.waitingResolvers.length > 0) {
            const resolve = this.waitingResolvers.shift();
            resolve();
        } else {
            this.currentCount--;
        }
    }

    async run(task, ...args) {
        await this.acquire();
        try {
            // 返回任务执行结果，让调用者能await到最终值
            return await task(...args);
        } finally {
            // 无论任务成功失败，都释放许可
            this.release();
        }
    }
}

使用示例 #

const limiter = new Limiter(50);

// 现在可以用你期望的方式调用
await limiter(myFunc);

// 也支持传递参数
await limiter(myFunc, arg1, arg2);

核心逻辑验证 #

• 当并发数未达上限时，任务会立即执行，currentCount同步增加
• 当并发数达到上限时，新请求会进入等待队列，直到有任务完成释放许可
• 任务完成时，优先唤醒等待队列中的请求，不会无意义地增减currentCount，避免了不必要的状态波动

内容的提问来源于stack exchange，提问作者Erik Aronesty