NodeJS多租户应用面向大量客户的数据库连接管理问题咨询

核心选型思路 #

不要走全量缓存所有租户连接、或每个请求新建销毁连接两个极端，核心是平衡连接复用率和服务器/数据库资源占用。

• 主流通用方案：带LRU淘汰策略的连接池缓存
  该方案是目前中大型多租户系统的标准实现，逻辑如下：
  1. 基于你用的Knex等ORM工具配置单租户连接池参数，单个租户的连接池最大连接数限制在2~5即可，避免单租户占用过多数据库连接资源
  2. 用lru-cache包实现活跃租户连接实例的缓存，缓存阈值根据你的数据库最大支持连接数、服务器内存配额计算，比如数据库最大支持1000个连接，那么缓存阈值可以设置为200个租户实例，超过阈值时自动销毁最久未被访问的租户连接实例释放资源
  3. 请求链路首先提取租户标识，先查LRU缓存是否存在对应连接实例，存在则直接复用，不存在则新建连接实例存入缓存后再使用
• 场景适配优化
  如果租户存在明显冷热区分（比如90%请求来自10%的活跃租户），该方案的缓存命中率可以达到95%以上，资源占用极低。如果是跨区域部署的业务，可以按区域拆分LRU缓存，进一步降低单节点缓存压力。
• 实现注意事项
  需要增加连接有效性检测逻辑，缓存中长时间闲置的连接如果被数据库主动断开，要触发自动重连后再返回给请求使用；同时要配合CLS做请求链路的租户标识透传，避免出现租户连接拿错的隔离问题。

如果你的多租户采用共享数据库、隔离schema的架构，连接复用效率会更高，上述逻辑同样适用。

内容的提问来源于stack exchange，提问作者Orkhan Rustamli