无法在Jupyter中启动Spark Session问题求助
PySpark Shell初始化SparkSession卡顿/失败的解决办法
- 优先检查版本兼容性:确认Anaconda的Python版本和PySpark版本匹配(比如PySpark 3.4.x支持Python 3.8-3.11),版本不兼容是初始化卡死的常见原因
- 手动配置环境变量:在激活Anaconda环境的终端里执行以下命令,避免路径识别错误:
export SPARK_HOME=/你的Spark安装路径(比如~/anaconda3/envs/你的环境名/lib/python3.x/site-packages/pyspark) export PYSPARK_PYTHON=$(which python) - 限制Spark启动资源:启动PySpark时指定单核心和低内存,避免本地资源耗尽:
pyspark --master local[1] --driver-memory 1g - 关闭防火墙/代理:Spark初始化时会尝试本地网络通信,防火墙或代理可能阻断进程导致卡死
- 清理临时缓存:删除
/tmp目录下以spark-开头的所有文件夹,清除旧缓存文件 - 指定findspark的Spark路径:在代码里明确指定Spark位置,避免自动识别错误:
import findspark findspark.init("/你的Spark安装路径")
内容的提问来源于stack exchange,提问作者Yelly Coulibaly
相关产品推荐
相关产品推荐

