Spark读取大型Cassandra表报错：Remote RPC client disassociated求助

1. 优先解决StackOverflowError（核心触发点） #

从报错栈可以看到，数据反序列化过程中出现栈溢出，这是导致executor退出、RPC连接断开的直接原因：

• 当前仅给Driver配置了栈大小spark.driver.extraJavaOptions=-Xss1024m，但Executor的栈大小完全未配置。大表数据量更大，Executor处理反序列化时栈空间不足，直接触发报错。
• 解决：启动PySpark时添加Executor栈大小配置：

  --conf spark.executor.extraJavaOptions=-Xss512m
  

  若仍报错，可调整至-Xss1024m。

2. 优化Spark资源配置合理性 #

集群单节点20核、64GB内存，当前配置存在资源利用率不足问题：

• 现有spark_executor_cores:5、spark_executor_memory:5G，单Worker可启动4个Executor，总内存仅20G，远低于Worker分配的45G内存，导致大表读取时单Task处理数据量过大，加重栈压力。
• 优化方案：
  • 修改spark-env.sh中spark_executor_memory为10G，单Worker可启动4个Executor（总内存40G，预留5G给Worker进程）
  • 保持spark_executor_cores:5不变，提升Task并行度，分散单Task的数据处理量
  • 修改配置后重启所有Worker节点

3. 调整Cassandra Connector读取分区策略 #

大表读取时，若Cassandra分区数过少，会导致Spark Task数量不足，单Task负载过高：

• 添加分区大小配置到PySpark启动命令：

  --conf spark.cassandra.input.split.size_in_mb=64
  

  默认值为64MB，若表中数据行体积过大，可调整为32MB，生成更多Task分散处理压力。

4. 验证节点网络稳定性 #

报错提示存在网络问题可能性，需确认：

• 节点间防火墙是否开放Spark通信端口（包括Executor随机端口，或配置固定端口范围）
• 用ping、telnet测试节点间RPC端口（7077）、BlockManager端口的连通性

内容的提问来源于stack exchange，提问作者murzade