Debezium Kafka连接器同步大数据时快照停滞排查求助

1. 确认Debezium快照/同步进度 #

• 调用Kafka Connect的REST接口获取任务详情：

  curl -X GET http://<connect-ip>:8083/connectors/<your-connector-name>/tasks/0/status
  

  重点查看响应中snapshot相关字段，比如snapshotCompleted是否为false，以及当前处理的文档偏移量、进度百分比，确认连接器是否真的在持续工作。
• 登录MongoDB查看oplog状态：

  mongosh
  rs.printReplicationInfo() # 查看oplog大小、剩余空间及写入速率
  db.your_collection.find().hint({$natural:1}).skip(<已处理文档数>).limit(1) # 对比快照进度点，确认是否在推进
  

2. 检查Kafka主题的消息生产与消费情况 #

• 查看Debezium输出主题的基本信息：

  kafka-topics.sh --describe --topic <debezium-output-topic> --bootstrap-server <kafka-ip>:9092
  

  关注分区数、副本数，以及主题的日志存储路径占用情况。
• 检查ES Sink消费者组的消费进度：

  kafka-consumer-groups.sh --describe --group <es-sink-consumer-group> --bootstrap-server <kafka-ip>:9092
  

  对比CURRENT-OFFSET与LOG-END-OFFSET的差值，如果差值持续增大，说明ES消费速度跟不上Debezium的生产速度，导致Kafka主题消息堆积，但磁盘占用不再增长可能是因为Kafka启用了日志自动清理策略（如log.retention.bytes或log.retention.hours）。

3. 排查Elasticsearch写入瓶颈 #

• 通过Kibana Stack Monitoring查看ES的核心指标：
  • 索引写入速率（Indexing Rate）是否持续低迷
  • CPU、堆内存使用率是否过高
  • 线程池（如write线程池）是否出现队列满、拒绝请求的情况
• 检查ES索引配置：
  • 临时将refresh_interval设置为-1，减少索引刷新的开销，同步完成后再恢复：

    curl -X PUT http://<es-ip>:9200/your-index/_settings -H "Content-Type: application/json" -d '{"index.refresh_interval": "-1"}'
    

  • 确认number_of_shards是否足够，大集合同步建议分片数与CPU核心数匹配，提升写入并行度。
• 查看ES日志，排查是否存在circuit_breaking_exception（内存熔断）或磁盘水位线触发的限制（即使磁盘充足，也可能因水位线配置异常导致写入受限）。

4. 检查Debezium与Kafka Connect的配置限制 #

• 查看Debezium MongoDB连接器的关键配置：
  • snapshot.max.threads：快照读取线程数，过小会限制读取速度
  • batch.size、poll.interval.ms：控制每次从MongoDB读取的批量大小与间隔，可适当调优提升生产速度
  • heartbeat.interval.ms：确保心跳间隔合理，避免因长时间快照导致连接超时
• 检查Kafka Connect的生产者配置（producer.batch.size、linger.ms），调整参数提升消息发送效率。

5. 系统层面资源瓶颈排查 #

• 用iostat -x 1监控磁盘IO使用率，确认是否存在磁盘读写瓶颈（比如MongoDB数据盘或Kafka日志盘的IO利用率接近100%）
• 用htop查看各组件的CPU、内存占用，确认是否有进程资源耗尽
• 用ss -an检查网络连接状态，排查MongoDB→Kafka Connect、Kafka→ES之间是否存在网络延迟或丢包问题

内容的提问来源于stack exchange，提问作者Osama