You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

无法在Jupyter中启动Spark Session问题求助

PySpark Shell初始化SparkSession卡顿/失败的解决办法
  • 优先检查版本兼容性:确认Anaconda的Python版本和PySpark版本匹配(比如PySpark 3.4.x支持Python 3.8-3.11),版本不兼容是初始化卡死的常见原因
  • 手动配置环境变量:在激活Anaconda环境的终端里执行以下命令,避免路径识别错误:
    export SPARK_HOME=/你的Spark安装路径(比如~/anaconda3/envs/你的环境名/lib/python3.x/site-packages/pyspark)
    export PYSPARK_PYTHON=$(which python)
    
  • 限制Spark启动资源:启动PySpark时指定单核心和低内存,避免本地资源耗尽:
    pyspark --master local[1] --driver-memory 1g
    
  • 关闭防火墙/代理:Spark初始化时会尝试本地网络通信,防火墙或代理可能阻断进程导致卡死
  • 清理临时缓存:删除/tmp目录下以spark-开头的所有文件夹,清除旧缓存文件
  • 指定findspark的Spark路径:在代码里明确指定Spark位置,避免自动识别错误:
    import findspark
    findspark.init("/你的Spark安装路径")
    

内容的提问来源于stack exchange,提问作者Yelly Coulibaly

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.17 12:40:34