Apache Zeppelin v0.10.1双节点集群Raft异常及配置咨询

一、Raft集群核心配置（解决初始化/元数据同步问题） #

Zeppelin 0.10.x依赖Raft协议实现集群元数据同步，2节点集群需重点调整Raft投票逻辑，避免选举失败：

• 每个节点的zeppelin-site.xml必须配置以下参数：
  • zeppelin.cluster.addr：当前节点的集群通信地址（格式：IP:PORT，默认端口8010），如192.168.1.100:8010
  • zeppelin.raft.peers：完整集群节点列表，格式为nodeId=ip:port，如1=192.168.1.100:8010,2=192.168.1.101:8010（所有节点配置必须完全一致）
  • zeppelin.raft.node.id：每个节点唯一ID（如node1设为1，node2设为2）
  • zeppelin.raft.storage.dir：本地读写目录（必须是节点本地路径，不能用HDFS，需确保Zeppelin进程用户有读写权限）
  • zeppelin.raft.election.min.quorum：设置为1（2节点集群无多数派，允许单节点成为leader，生产环境建议升级为3节点保障可用性）
• 启动顺序：先启动第一个节点，等待日志输出become leader后，再启动第二个节点，避免同时启动导致选举冲突

二、共享存储配置验证 #

• Notebook存储：zeppelin.notebook.dir设为HDFS路径（如hdfs://namenode:9000/zeppelin/notebooks），确保所有节点Zeppelin进程用户对该路径有读写执行权限
• 解释器存储：zeppelin.interpreter.localRepo设为HDFS路径（如hdfs://namenode:9000/zeppelin/interpreters），同样验证权限
• 执行hdfs dfs -ls <配置的HDFS路径>在每个节点测试连通性，确认无权限或连接问题

三、Nginx负载均衡正确配置 #

• 采用ip_hash策略绑定用户会话到固定节点，避免跨节点元数据不一致：

upstream zeppelin_cluster {
    ip_hash;
    server 192.168.1.100:8080;
    server 192.168.1.101:8080;
}

server {
    listen 80;
    server_name zeppelin.example.com;

    location / {
        proxy_pass http://zeppelin_cluster;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
        # 保持长连接，避免连接拒绝
        proxy_http_version 1.1;
        proxy_set_header Connection "";
    }
}

• 注意：Nginx转发的是Zeppelin Web端口（默认8080），zeppelin.cluster.addr是集群内部通信端口，不可混淆；禁止配置缓存，避免页面元数据滞后

四、网络与权限检查（解决连接拒绝/远程解释器失败） #

• 端口开放：确保集群内部通信端口（默认8010）、解释器端口区间（10000-10099）在防火墙/安全组中开放，执行telnet <节点IP> <端口>验证节点间连通性
• SSH免密登录：确保Zeppelin进程用户（如zeppelin）能从任意节点免密登录到其他节点，执行ssh <目标节点IP>确认无需密码
• 系统资源：检查节点ulimit设置（如ulimit -n确保文件句柄数足够），避免因资源限制导致解释器进程创建失败

五、解释器集群配置 #

• 在Zeppelin Web UI的Interpreter页面，选择目标解释器（如Spark），开启Remote模式
• 在Remote Addresses中填写所有集群节点IP/主机名（如192.168.1.100,192.168.1.101）
• 保存后重启解释器，查看zeppelin-interpreter-*.log确认进程在所有节点正常启动

六、故障排查工具 #

• 查看Raft日志：zeppelin-raft-*.log，搜索election、leader关键字定位选举异常
• 查看主日志：zeppelin-server-*.log和zeppelin-interpreter-*.log，搜索connection refused、process failed定位具体节点问题
• 集群状态验证：执行curl http://<节点IP>:8080/api/cluster/raft/status查看当前leader及节点状态

内容的提问来源于stack exchange，提问作者ideachu