如何在Windows系统中直接配置PYSPARK_PYTHON与PYSPARK_DRIVER_PYTHON环境变量(PyCharm开发场景)
在Windows系统中配置PYSPARK_PYTHON和PYSPARK_DRIVER_PYTHON环境变量
没问题!我来一步步教你把这两个变量配置到Windows系统环境变量里,这样就不用每次在代码里手动设置了:
打开系统环境变量设置面板:
右键点击此电脑 → 选择属性 → 在弹出的窗口里点击高级系统设置 → 切换到高级标签页 → 点击底部的环境变量按钮。
或者更快捷:按下Win + R组合键打开运行窗口,输入sysdm.cpl回车,然后直接跳转到高级标签页点击环境变量。添加环境变量:
你可以选择配置用户变量(只对当前用户生效,推荐)或者系统变量(对所有用户生效)。点击对应区域的新建按钮:- 配置
PYSPARK_PYTHON:- 变量名:
PYSPARK_PYTHON - 变量值:填写你Python解释器的完整路径,比如
C:\Users\YourName\AppData\Local\Programs\Python\Python310\python.exe(记得替换成你自己的Python安装路径)。如果你的Python已经添加到系统PATH中,直接填python.exe也可以,但用完整路径能避免版本冲突。
- 变量名:
- 配置
PYSPARK_DRIVER_PYTHON:- 变量名:
PYSPARK_DRIVER_PYTHON - 变量值:和上面的Python路径完全一致就行,这和你之前代码里用
sys.executable取当前解释器路径的效果是一样的。
- 变量名:
- 配置
让配置生效:
点击所有弹出窗口的确定按钮保存设置,然后重启PyCharm(或者你用来运行PySpark的任何程序),新的环境变量才会被加载。验证配置是否成功:
打开命令提示符(CMD),输入以下命令查看变量值:echo %PYSPARK_PYTHON% echo %PYSPARK_DRIVER_PYTHON%如果输出的是你设置的Python路径,说明配置成功。也可以在PyCharm里去掉代码中那两行
os.environ的设置,运行一段简单的PySpark代码测试,比如:from pyspark.sql import SparkSession spark = SparkSession.builder.appName("Test").getOrCreate() df = spark.createDataFrame([(1, "test")], ["id", "name"]) df.show() spark.stop()如果能正常运行并输出DataFrame,就说明配置没问题啦!
内容的提问来源于stack exchange,提问作者Mostafa Hosseini
相关产品推荐
相关产品推荐

