Spring JPA中限制PostgreSQL并发查询的热修复方案咨询

• 优先在API层实现请求合并：将100ms窗口内的同类型设备状态查询请求打包，仅向数据库发起1次查询，结果批量返回给窗口内所有请求方，无需修改数据库逻辑即可快速降低70%以上的数据库请求量。
• 基于设备维度做接口限流：对单设备的状态查询请求做令牌桶限流，单设备每秒最多放行1次请求到数据库，重复请求直接返回最近一次的有效结果，避免无效重复查询打满数据库资源。
• 数据库层面做资源隔离：为该存储过程创建专用的数据库调用用户，执行以下命令限制该用户的最大并发连接数，避免该接口的请求占满全部数据库连接：

  ALTER ROLE 设备状态查询专用用户 CONNECTION LIMIT 10;
  

  可根据实际数据库负载调整连接数阈值。

该方案可以从根源上解决数据库负载过高的问题，实现成本极低：

• 启动独立的后台定时工作进程，按照业务能接受的状态最大延迟间隔（比如1秒），批量执行存储过程拉取全量设备的当前状态，将结果写入本地内存或者Redis分布式缓存。
• 改造原有REST接口逻辑，完全移除数据库查询步骤，所有请求直接读取缓存中的状态数据返回，无任何数据库交互。
• 若后续设备规模扩容，可调整后台进程的拉取策略，比如按设备分组分批拉取，避免单次查询数据量过大。
• 该架构下，无论有多少客户端访问接口，数据库每秒最多仅执行1次存储过程，CPU负载会降到极低水平，同时接口响应速度也会提升10倍以上。

内容的提问来源于stack exchange，提问作者NightCity10932