Kafka Connect在集群单个broker节点宕机后运行失败如何解决

• Connect内部主题副本因子配置错误：当前配置里connect、connect2的CONNECT_CONFIG_STORAGE_REPLICATION_FACTOR、CONNECT_OFFSET_STORAGE_REPLICATION_FACTOR、CONNECT_STATUS_STORAGE_REPLICATION_FACTOR三个参数值都是1。这三个是Kafka Connect集群运行的核心元数据主题，副本数为1的情况下，如果副本所在的Broker宕机，整个Connect集群会因为无法读写元数据直接失效，是本次故障的核心原因。
• Broker事务配置不兼容集群规模：两个Broker节点的配置中KAFKA_TRANSACTION_STATE_LOG_MIN_ISR设为2，副本因子也是2。2节点集群只要宕机1个，事务主题的ISR数量就会低于要求值，所有依赖Kafka事务的生产者/Connector操作都会直接失败，无法写入数据。
• 业务Topic未配置多副本：故障后Connector对应的Topic没有数据写入，说明该Topic的副本数为1且Leader在宕机的Broker上，没有可用副本提供读写服务。

• 修改Connect集群配置：将三个内部主题的副本因子改为2，对应参数替换为：

CONNECT_CONFIG_STORAGE_REPLICATION_FACTOR: 2
CONNECT_OFFSET_STORAGE_REPLICATION_FACTOR: 2
CONNECT_STATUS_STORAGE_REPLICATION_FACTOR: 2

如果已经生成了这三个主题，需要手动修改主题的副本数，或者删除旧主题让Connect重启后自动重新创建符合副本要求的新主题。

• 调整Broker事务参数：将两个Broker的KAFKA_TRANSACTION_STATE_LOG_MIN_ISR改为1，避免单节点宕机后事务不可用。如果对数据一致性要求高，建议后续扩容到3个Broker节点，再把该参数改回2。
• 调整业务Topic配置：所有需要高可用的业务Topic都将副本数设置为2，min.isr可根据需求设为1或2，确保单Broker宕机后Topic仍有可用副本提供服务。
• 可选优化：当前ZooKeeper是单点，存在单点故障风险，建议后续扩容为3节点ZooKeeper集群提升整体可靠性。

内容的提问来源于stack exchange，提问作者Arnoosh