下游Operator接收记录数与上游发送记录数不符问题排查求助

• 上游Operator：
• 下游Operator：

下游Operator接收字节数与上游Operator发送字节数一致，但记录数存在差异；经日志统计确认确实出现数据丢失，且重启程序后问题出现在另一台主机上。

• 记录边界解析不一致：上下游对记录的拆分规则不匹配。比如上游用特定分隔符（如换行符、自定义标识）拆分记录，但下游解析时，因记录中包含未转义的分隔符、编码差异等，导致拆分错误——要么多条记录被合并为一条，要么单条被拆成多条，最终记录数不匹配，但总字节数保持一致。
• 序列化/反序列化异常：上游序列化数据时，部分记录的元信息（如记录长度标识）损坏；下游反序列化时无法识别这些无效记录，直接丢弃，但接收的总字节数仍被统计。重启后数据分布变化，损坏的元信息出现在另一台主机的处理链路中，导致问题转移。
• 集群路由与节点处理bug：集群部署场景下，上游字节流被分片路由到下游节点时，部分节点的记录合并/拆分逻辑存在缺陷，导致处理时丢失记录。重启后节点负载重新分配，问题随之转移到其他主机。
• 未预期的记录静默丢弃：下游存在记录过滤或校验逻辑，某些记录因格式、字段不符合要求被静默丢弃，但接收的字节数仍被计入总量。这类校验失败的记录分布具有随机性，重启后在另一主机触发。
• 粘包/拆包处理不当：网络传输中出现粘包时，下游未正确重组记录，导致部分记录合并后无法解析而丢失；拆包时若缺少重试或重组机制，也会引发记录丢失。这类问题在不同主机的网络环境下可能随机出现。

内容的提问来源于stack exchange，提问作者GW David