多服务器部署下Serilog File Sink日志消息交错如何解决?
将Web应用部署在10台Web服务器上,所有服务器的Serilog配置如下(path为共享网络路径,所有服务器均指向同一个日志文件):
"Serilog": { "Using": [ "Serilog.Sinks.Console", "Serilog.Sinks.File" ], "MinimumLevel": "Debug", "WriteTo": [ { "Name": "Console" }, { "Name": "File", "Args": { "shared": true, "path": "logs/foo_.log", "rollingInterval": "Day", "retainedFileCountLimit": 7 } } ], "Enrich": [ "FromLogContext", "WithMachineName", "WithThreadId" ] }
但日志文件中出现了消息交错的情况:
2023-02-28 00:03:16.105 -06:00 [DBG] Execution plan of result filters (in the following order): ["Microsoft.AspNetCore.Mvc.Infrastructure.C2023-02-28 00:03:16.054 -06:00 [INF] Requ2023-02-28 00:03:16.130 -06:00 [DBG] Execution plan of result filters (in the following order):
同一行消息中同时出现了[DBG]和[INF]日志级别,例如:
Infrastructure.C2023-02-28 00:03:16.054 -06:00 [INF] Requ2023-02-28 00:03:16.13
原本以为设置shared: true就能让Serilog处理多服务器写入场景,请问如何避免日志交错?
每个服务器生成独立日志文件,再统一汇总
修改Serilog的文件路径,利用已配置的WithMachineNameenricher加入机器名区分,让每台服务器写入单独的日志文件:"Args": { "shared": true, "path": "logs/foo_${MachineName}.log", "rollingInterval": "Day", "retainedFileCountLimit": 7 }之后可以用日志收集工具(如Filebeat、Fluentd)将分散的日志文件统一收集到集中存储系统(如Elasticsearch、Splunk),既避免了写入冲突,也方便后续日志查询分析。
改用支持分布式写入的Serilog Sink
直接写共享文件本身就不适合多服务器场景,推荐换成专为分布式环境设计的日志Sink,比如:Serilog.Sinks.Seq:写入Seq日志服务器,支持多实例并发写入,自带日志查询、分析功能Serilog.Sinks.Elasticsearch:直接写入Elasticsearch,配合Kibana实现日志可视化和查询
这类Sink从设计上就处理了多节点写入的并发问题,不会出现日志交错。
调整FileSink缓冲配置(仅缓解,不根治)
如果必须使用共享文件,可以尝试启用buffered: true参数,减少实时写入次数,降低冲突概率:"Args": { "shared": true, "path": "logs/foo_.log", "rollingInterval": "Day", "retainedFileCountLimit": 7, "buffered": true }但注意:网络文件系统的文件锁机制本身存在局限性,这种方法只能缓解问题,无法彻底避免日志交错。
内容的提问来源于stack exchange,提问作者mariocatch

