Python常驻日志扫描脚本:实现5分钟窗口IP错误超阈值告警的方案问询
现有实现思路评估
提出的两个实现方向核心逻辑正确,但存在两个明显的效率短板,无法适配长期常驻运行的场景:
- 直接给日志解析加while循环空转读日志的方式,容易出现重复读取全量历史日志、CPU空占过高的问题,且未考虑生产环境常见的日志切割轮转场景,长期运行会出现读不到新日志的故障
- 采用「IP-全量错误时间戳列表」存储所有历史日志的方案,会出现内存占用随运行时间无限增长的问题;且每次判定窗口内错误数时,需要遍历列表做时间差计算,复杂度高、运行效率低
轻量化滑动窗口实现方案
这套方案相比原有思路的内存占用、运行效率提升明显,完全可以满足常驻运行的需求,核心实现逻辑如下:
- 持续读日志的优化逻辑:
- 记录上次读取日志时的文件字节偏移量,每次循环直接从偏移量位置读取新增内容,避免重复扫描历史全量日志
- 循环间隔增加1秒的短休眠,避免CPU资源被空占
- 增加日志文件inode校验,识别日志切割轮转的场景,自动重置读取偏移量适配新日志文件
- 滑动窗口的轻量化数据结构:
- 用
defaultdict(deque)结构存储每个IP的错误时间戳,相比普通列表,deque从队首弹出过期时间戳的操作是O(1)时间复杂度,效率远高于列表的pop(0)操作 - 每处理一条新的ERROR日志,先把对应的日志时间戳加入该IP的deque队尾,再从队首移除所有超出「当前时间-5分钟窗口时长」的过期时间戳,剩余队列长度就是该IP在当前滑动窗口内的错误计数
- 增加已告警IP的去重集合,避免同一IP在窗口持续达到阈值时重复发送告警邮件;当IP错误计数掉回阈值以下时,自动将其从告警集合移除,支持下一次阈值触发的告警逻辑
- 用
- 这套方案的内存占用仅和当前窗口内的错误日志数挂钩,不会随脚本运行时间变长无限增长,每条日志的处理均摊复杂度为O(1),完全匹配轻量化的要求
核心逻辑代码片段
import re from collections import defaultdict, deque from datetime import datetime, timedelta # 基础配置 WINDOW_DURATION = timedelta(minutes=5) ERROR_THRESHOLD = 50 # 每个IP对应存储窗口内时间戳的双端队列 ip_error_tracker = defaultdict(deque) # 已触发告警的IP集合,避免重复发信 alerted_ips = set() def parse_log_line(raw_line: str): # 复用现有正则匹配逻辑,提取IP、日志时间 match = re.search( r'(\d{4}-\d{2}-\d{2}.\d{2}:\d{2}:\d{2}) (ERROR) (\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3})', raw_line ) if not match: return None, None log_time = datetime.strptime(match.group(1), "%Y-%m-%d %H:%M:%S") ip = match.group(3) return ip, log_time def process_new_log_entry(ip: str, log_time: datetime): # 加入新的错误时间 ip_error_tracker[ip].append(log_time) # 计算窗口的起始时间边界 window_start_time = log_time - WINDOW_DURATION # 清理队首所有超出窗口的过期时间戳 while ip_error_tracker[ip] and ip_error_tracker[ip][0] < window_start_time: ip_error_tracker[ip].popleft() # 获取当前窗口内的错误计数 current_window_count = len(ip_error_tracker[ip]) # 达到阈值且未发过告警的,触发邮件通知 if current_window_count >= ERROR_THRESHOLD and ip not in alerted_ips: send_alert_email(ip, current_window_count, log_time) alerted_ips.add(ip) # 错误计数回落时,移除告警标记 if current_window_count < ERROR_THRESHOLD: alerted_ips.discard(ip)
注:原有代码中匹配无IP的ERROR日志(例如
2019-09-02 10:11:12 ERROR unexpected ...这类格式)的逻辑未做统计,可根据实际需求决定是否要把这类错误归到全局无IP的告警分类里。
内容的提问来源于stack exchange,提问作者dev-dom
相关产品推荐
相关产品推荐

