Spark Python程序远程调试失败：提示找不到空闲套接字端口求助

我来帮你一步步排查这个远程调试Spark Python程序时遇到的「Failed to find free socket port」问题，常见原因和解决方法如下：

• 首先你得登录到Spark Driver所在的机器，检查指定的调试端口有没有被正确监听。用这两个命令都行：

  # Linux/macOS下查端口占用
  lsof -i :<你的调试端口号>
  # 或者另一种方式
  netstat -tulpn | grep <你的调试端口号>
  

• 如果啥输出都没有，说明Spark根本没成功绑定这个端口。这时候得检查你提交任务时的调试配置：
  • 要是用pydevd做远程调试，代码里得加对attach的代码，别写错IP和端口：

    import pydevd
    # 这里填IntelliJ所在机器的IP，端口要和后面配置一致，suspend=True会让程序等调试连接
    pydevd.settrace('192.168.x.x', port=5005, suspend=True)
    

  • 要是通过spark-submit的参数传递调试选项，比如设置PYSPARK_SUBMIT_ARGS，得确保格式没毛病：

    export PYSPARK_SUBMIT_ARGS="--driver-java-options '-agentlib:jdwp=transport=dt_socket,server=y,suspend=y,address=5005' pyspark-shell"
    

  • 另外注意：1024以下的端口需要root权限才能绑定，要是你用普通用户跑Spark，别选这些低端口，换个1024以上的就行。

• 如果上面的命令显示有其他进程在用这个端口，那就是冲突了。解决办法二选一：
  • 杀掉占用端口的进程（先确认不是重要进程哈）：

    # 把<PID>换成命令里查到的进程号
    kill -9 <PID>
    

  • 换个没被用的端口，比如把5005改成5006，然后同步改代码里的pydevd参数和IntelliJ的调试配置。

• 首先得保证IntelliJ的机器和Spark Driver的机器能通：
  • 先ping一下Spark Driver的IP，ping不通的话先解决网络问题（比如子网、VPN、路由这些）。
  • 再用telnet测端口能不能连：

    telnet <Spark Driver的IP> <调试端口>
    

    要是telnet连不上，十有八九是防火墙拦了。这时候：
    • 在Spark Driver的机器上开放端口（比如Linux用ufw）：

      sudo ufw allow <调试端口>
      

    • 要是在云服务器上跑Spark，得去云服务商的安全组里开这个端口的入站规则。

• 打开IntelliJ的「Run/Debug Configurations」，找到你创建的「Python Remote Debug」配置：
  • 「Host」要填Spark Driver所在机器的IP（本地跑的话填localhost就行），「Port」必须和代码里的端口完全一致，差一个数字都不行。
  • 有时候IntelliJ本地端口资源耗尽也会报这个错，试试重启IntelliJ，说不定就好了。

• 如果Spark环境里的pydevd版本和IntelliJ的Python插件版本不匹配，也会连不上：
  • 先查Spark环境里的pydevd版本：

    pip show pydevd
    

  • 要么把IntelliJ的Python插件更到最新（在Settings -> Plugins里更新），要么装个和插件兼容的pydevd版本（比如插件是旧版，就装对应的旧版pydevd）。

内容的提问来源于stack exchange，提问作者Nipun