setInterval每秒轮询AJAX触发504超时致站点故障的优化咨询
直播状态同步功能优化方案
当前实现的故障根因
- 固定1秒的轮询频率远高于业务实际需要,单用户单小时就会产生3600次服务端请求,用户量稍高就会把服务端QPS打满,直接触发网关504超时
setInterval的触发逻辑不会等待上一个AJAX请求完成,只要到点就发新请求,一旦接口响应变慢,就会形成请求堆积,把服务端连接池占满,最终拖垮整个站点- 接口每次请求都直接做数据库查询判断直播状态,没有任何缓存层,无效请求带来的数据库压力进一步放大了超时概率
可落地的优化措施
前端逻辑调整
- 弃用固定间隔的
setInterval,换成链式触发的setTimeout:等上一次AJAX请求不管成功、失败、超时完全结束后,再安排下一次请求,从根源上避免请求堆积 - 结合业务精度调整轮询间隔:直播状态同步不需要秒级实时,把基础轮询间隔从1秒拉到15秒,单用户请求量直接降到原来的1/15,大幅降低服务端压力
- 加入动态间隔逻辑:从接口返回中拿到待开播课程距离开播的时间值,如果距离开播还有10分钟以上,就把轮询间隔拉长到60秒;距离开播不足10分钟,再把间隔缩到15秒,既保证开播时能及时切换状态,又减少大部分无效请求
- 给AJAX请求加上3-5秒的超时兜底,请求超时直接中断,不长期占用服务端连接
服务端接口调整
- 给直播状态的查询结果加内存缓存,缓存有效期1分钟,所有轮询请求直接读缓存,不需要每次查询数据库,把数据库压力降为0
- 接口接收前端传来的当前已展示的直播状态标识,如果和缓存里的最新状态一致,直接返回无变更提示,不返回冗余的HTML片段,减少响应体积和带宽消耗
- 给接口加基础限流规则,单用户请求频率超过1次/5秒就直接返回,避免异常请求拖垮服务
长期优化方向
- 把轮询方案替换为SSE单向推送:服务端在直播状态发生变更时,主动给所有在线用户推送最新的直播内容,完全不需要用户端定时发请求,从根源上消除轮询带来的资源消耗
调整后的参考实现代码
let pollTimer = null; let currentShowedLiveKey = null; // 链式安排下一次轮询 function scheduleNextPoll(delay = 15000) { clearTimeout(pollTimer); pollTimer = setTimeout(updateLstream, delay); } function updateLstream() { $.ajax({ type: 'POST', async: true, url: "../users/zbbtns_live.php", data: { cid: "", current_live_key: currentShowedLiveKey // 传递当前已展示的直播状态标识,供后端对比 }, timeout: 3000, success: function(res) { if (res.status === 1) { currentShowedLiveKey = res.live_uniq_key; $(".setMainLiveBtn").html(res.Hdata); } // 动态调整下一次轮询间隔:距离开播超过10分钟就拉长到1分钟 const nextInterval = res.time_to_next_start > 600 ? 60000 : 15000; scheduleNextPoll(nextInterval); }, error: function() { // 请求出错就拉长间隔,避免连续压测服务端 scheduleNextPoll(30000); } }); } $(function() { updateLstream(); });
内容的提问来源于stack exchange,提问作者Monish Jerin
相关产品推荐
相关产品推荐

