Tomcat活跃会话数与负载均衡总活跃连接数不匹配问题咨询

结论 #

该现象不代表请求未复用TCP连接，也不代表每个入站请求都会创建新会话，三个指标统计维度完全不同，数值差异属于正常情况，核心原因如下：

• 首先你存在计算笔误：单节点9K活跃会话，18节点集群总活跃会话应为 9K * 18 = 162K，而非162个。

指标本质差异说明

• Tomcat活跃会话数：属于应用层的HttpSession统计，对应用户登录后生成的会话标识，超时时间配置为60分钟，只要用户在超时周期内有操作，会话就会持续有效，1个用户会话可对应该用户发起的数十到上百次HTTP请求，和TCP连接、单次HTTP请求没有一一对应关系。
  按162K总活跃会话、每小时3M请求计算，平均每个会话每小时仅对应约18次请求，完全符合登录类应用的用户行为规律（用户登录后点击功能、刷新页面都会触发多次请求）。
• AWS负载均衡活跃TCP连接数：属于传输层统计，包含客户端到负载均衡、负载均衡到后端Tomcat的并发TCP连接总和。HTTP/1.1 keepalive机制、HTTP/2/3多路复用机制都支持在1条TCP连接上串行/并行处理多个HTTP请求，按40K活跃连接、每小时3M请求计算，平均每条TCP连接每小时处理约75次请求，说明TCP连接复用率非常高，不存在每次请求新建TCP连接的问题。
• 负载均衡每小时总请求数：是所有用户所有操作触发的HTTP请求汇总，数值天然远高于会话数、TCP连接数，属于常规表现。

可选验证手段

如果需要进一步确认会话、连接复用逻辑正常，可以查询两个指标：

• 统计Tomcat每小时新增HttpSession数量，如果该数值远低于3M，即可证明没有每次请求创建新会话的问题
• 统计负载均衡每小时新建TCP连接数量，如果该数值远低于3M，即可证明TCP连接复用正常

内容的提问来源于stack exchange，提问作者newtogroovy