MirrorMaker2迁移时消费者组未添加源别名前缀问题排查
Kafka MirrorMaker2 消费者组未添加源前缀问题排查与解决
核心问题原因
你的问题大概率是MM2配置中缺少消费者组复制规则或组前缀配置导致的。默认情况下,MM2不会自动复制所有消费者组,且DefaultReplicationPolicy需要明确配置group.prefix才会给同步的消费者组添加前缀。
关键配置修正
检查你的MM2 YAML配置,确保包含以下关键项:
clusters: # 源集群配置 source-cluster-alias: bootstrap.servers: 源集群地址:9092 # 目标集群配置 target-cluster-alias: bootstrap.servers: 目标集群地址:9092 mirrors: source-to-target: source.cluster: source-cluster-alias target.cluster: target-cluster-alias # 复制所有主题(你已配置正确) topics: ".*" # 必须显式指定要复制的消费者组,这里匹配所有组 groups: ".*" # 设置源别名前缀,和主题前缀保持一致 group.prefix: "source-cluster-alias-" # 显式指定复制类(你已设置,可保留) replication.policy.class: org.apache.kafka.connect.mirror.DefaultReplicationPolicy
配置说明
groups: ".*":MM2默认不会复制任何消费者组,必须显式指定要同步的组(用正则匹配所有组),否则消费者组偏移量不会被同步到目标集群。group.prefix:DefaultReplicationPolicy依赖这个参数给同步的消费者组添加前缀,和主题前缀保持一致即可。如果未配置该项,同步的组名将和源集群完全一致,不会添加前缀。
后续操作
- 修正配置后重启MM2服务
- 等待MM2重新同步消费者组偏移量,可通过目标集群的
__consumer_offsets主题验证带前缀的组名是否出现 - 迁移消费者时,使用带前缀的组名即可从已同步的偏移量开始消费,而非从头开始
内容的提问来源于stack exchange,提问作者user26662895
相关产品推荐
相关产品推荐

