Spark应用提交至Spark REST URL失败，Master连接异常求助

首先，咱们先拆解你遇到的核心问题：Failed to connect to master 10.11.9.2:6066 是导致提交失败的根源，而TransportResponseHandler的报错只是连接中断后残留请求引发的连锁反应，所以重点要先搞定Master节点的连通性和配置问题。

下面是几个针对性的排查和修复步骤：

• 先验证Master节点的网络连通性
  在提交应用的机器上，用telnet 10.11.9.2 6066或者nc -zv 10.11.9.2 6066测试端口是否能正常访问。如果不通，大概率是防火墙规则拦截了6066端口（Spark Standalone Master的默认REST端口），需要在Master节点开放该端口，或者确认提交机器和Master处于同一网络环境、路由配置正常。

• 确认Master的REST服务是否正常启动
  访问Master的Web UI（默认地址是http://10.11.9.2:8080），在页面中找到"REST URL"的信息，确认它显示的是spark://10.11.9.2:6066或对应的正确地址。如果REST服务没启动，检查Master的启动日志（默认在$SPARK_HOME/logs目录下的spark-*-master-*.out文件），排查是否有端口被占用（可以用netstat -tulpn | grep 6066查看端口占用情况）或启动失败的其他原因。

• 检查提交命令的参数是否准确
  确保你提交应用时指定的Master URL格式正确，Standalone模式下应该是spark://10.11.9.2:6066。另外核对spark-submit命令的--master参数，比如正确的提交命令示例：

  spark-submit --master spark://10.11.9.2:6066 --class com.your.package.YourApp your-app.jar
  

• 检查Spark配置中的网络相关参数
  打开spark-defaults.conf文件，确认以下参数配置正确：

  • spark.driver.host：如果提交机器是多网卡环境，要指定驱动端的正确IP，避免Master无法回连驱动
  • spark.driver.port：确保该端口未被防火墙拦截，Master需要和驱动端建立反向连接
  • spark.master.rest.enabled：确认这个参数设置为true（默认开启，若被手动关闭会导致REST服务不可用）

• 查看详细日志定位深层问题
  如果上述步骤都没问题，去Master节点的日志目录和提交应用时生成的Driver日志里找完整的异常堆栈，里面会包含更具体的错误信息，比如认证失败、权限不足或底层网络异常等。

内容的提问来源于stack exchange，提问作者Grant