Spark集群连接Cassandra失败：JanusGraph创建作业故障求助

你的环境与配置概述 #

你当前的部署架构：

• JanusGraph服务器、Cassandra、Elasticsearch（ES）部署在同一台机器（IP为x），已执行janusgraph.sh start启动服务
• Spark计算任务在集群中执行，尝试通过代码连接并创建JanusGraph实例，核心代码片段如下：

def getGraph(): JanusGraph = { 
    val config = JanusGraphFactory.build() 
    config.set("storage.backend", "cassandrathrift") 
    config.set("storage.cassandra.hosts", "x") 
    // 推测你可能还有其他未写完的配置项
    // ...
    config.open()
}

关键排查点与修复建议 #

1. 补全必要的JanusGraph配置项 #

使用CassandraThrift作为存储后端时，必须确保核心配置项完整，否则会导致连接失败：

def getGraph(): JanusGraph = { 
    val config = JanusGraphFactory.build() 
    // 存储后端类型
    config.set("storage.backend", "cassandrathrift") 
    // Cassandra集群节点（单节点填你的机器IP x）
    config.set("storage.cassandra.hosts", "x") 
    // Cassandra Thrift默认端口是9160，确保未被修改
    config.set("storage.cassandra.thrift.port", "9160") 
    // 可选：指定Keyspace，默认是janusgraph
    config.set("storage.cassandra.keyspace", "janusgraph") 
    // ES索引后端配置（如果用ES作为索引）
    config.set("index.backend", "elasticsearch")
    config.set("index.hostname", "x")
    config.set("index.port", "9200") // ES默认HTTP端口
    // 打开图实例
    val graph = config.open()
    graph
}

2. 确保Spark集群与目标机器的网络连通性 #

• 检查Spark集群的所有worker节点是否能ping通IP为x的机器
• 验证端口是否开放：在Spark worker节点上执行telnet x 9160（Cassandra Thrift）和telnet x 9200（ES），确保能正常连接
• 如果机器有防火墙，需要开放9160、9200以及JanusGraph相关端口（如8182）

3. 处理Spark作业的依赖问题 #

Spark作业运行时必须包含JanusGraph及相关依赖包，否则会出现ClassNotFoundException：

• 推荐使用--packages参数提交Spark作业，自动拉取依赖：

spark-submit \
  --class com.your.package.YourJobClass \
  --master spark://your-spark-master:7077 \
  --packages org.janusgraph:janusgraph-cassandra:0.6.3,org.janusgraph:janusgraph-es:0.6.3 \
  your-job.jar

• 注意：JanusGraph版本要和你部署的服务器版本保持一致，避免版本不兼容

4. 避免JanusGraph实例的重复创建与资源泄漏 #

在Spark作业中，每个Executor可能会创建多个JanusGraph实例，建议使用单例模式管理，或者在每个任务完成后关闭实例：

// 示例：在任务结束后关闭图实例
graph.close()

5. 检查Cassandra与ES的运行状态 #

在IP为x的机器上执行以下命令，确认服务正常：

• 检查Cassandra状态：nodetool status，确保节点处于UN（Up/Normal）状态
• 检查ES状态：curl http://x:9200/_cluster/health，确保status为green或yellow
• 检查JanusGraph服务器状态：curl http://x:8182/graphs，确认能返回图实例信息

内容的提问来源于stack exchange，提问作者J.Doe