同一命名空间内Kafka消费者Pod无法连接Broker排查求助

核心问题 #

你的Kafka集群无法被同命名空间消费者连接的根本原因是Kafka的通告监听器（Advertised Listeners）配置错误，同时消费者的初始连接地址也不符合K8s Pod间通信规则：

1. Kafka的KAFKA_ADVERTISED_LISTENERS设置为localhost/127.0.0.1，这会让Kafka向消费者返回自身的localhost地址，但消费者Pod的localhost指向自身容器，而非Kafka Pod，导致后续连接失败。
2. 即使你尝试过用Service地址作为bootstrap-server，但Kafka返回的通告地址仍是localhost，消费者会自动切换到这个错误地址继续尝试连接。

修复步骤 #

1. 修正Kafka Pod的环境变量配置 #

修改Kafka Pod的环境变量，让Kafka监听容器所有网卡，并通告正确的Service地址：

---
apiVersion: v1
kind: Pod
metadata:
  name: kafka
  labels:
    app: kafka
    service: kafka
  namespace: datastores
spec:
  containers:
    - image: xxx.xxx.xx/images/kafka:latest
      name: kafka
      ports:
        - containerPort: 19092
      environment:
        - name: KAFKA_LISTENERS
          value: PLAINTEXT://0.0.0.0:19092  # 监听容器所有网卡，允许Service转发流量
        - name: KAFKA_ADVERTISED_LISTENERS
          value: PLAINTEXT://kafka.datastores.svc.cluster.local:19092  # 通告Service的集群内部地址
        - name: KAFKA_LISTENER_SECURITY_PROTOCOL_MAP
          value: PLAINTEXT:PLAINTEXT
      resources: {}
  restartPolicy: Always
status: {}

2. 修正消费者的Bootstrap Server配置 #

消费者直接使用K8s Service名称（同命名空间下可简写为kafka:19092）作为连接地址：

---
apiVersion: v1
kind: Pod
metadata:
  name: kafka-consumer-test
  labels:
    app: kafka-consumer-test
  namespace: datastores
spec:
  containers:
  - name: kafka-consumer
    image: xxx.xxx.xx/images/kafka:latest
    command: ["/bin/bash", "-c"]
    args:
      - |
        kafka-console-consumer.sh \
          --bootstrap-server kafka:19092 \
          --topic my-test-topic \
          --from-beginning
  restartPolicy: Never

额外排查方向 #

如果修复后仍有问题，可按以下步骤排查：

• 连通性测试：在消费者Pod内执行nc -zv kafka 19092或telnet kafka 19092，确认Service到Kafka Pod的网络连通性。
• Service端点检查：执行kubectl get endpoints kafka -n datastores，查看Kafka Pod的IP是否被正确注册到Service端点中，若未注册，检查Pod标签与Service selector是否匹配。
• Kafka端口监听检查：进入Kafka Pod，执行netstat -tulpn，确认Kafka在0.0.0.0:19092上监听，而非仅127.0.0.1。
• Kafka启动日志验证：查看Kafka Pod日志，确认存在类似Listening on PLAINTEXT://0.0.0.0:19092和Advertised listener PLAINTEXT://kafka.datastores.svc.cluster.local:19092的日志，说明配置已生效。

内容的提问来源于stack exchange，提问作者avp