You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何在Windows系统中直接配置PYSPARK_PYTHON与PYSPARK_DRIVER_PYTHON环境变量(PyCharm开发场景)

在Windows系统中配置PYSPARK_PYTHON和PYSPARK_DRIVER_PYTHON环境变量

没问题!我来一步步教你把这两个变量配置到Windows系统环境变量里,这样就不用每次在代码里手动设置了:

  • 打开系统环境变量设置面板:
    右键点击此电脑 → 选择属性 → 在弹出的窗口里点击高级系统设置 → 切换到高级标签页 → 点击底部的环境变量按钮。
    或者更快捷:按下Win + R组合键打开运行窗口,输入sysdm.cpl回车,然后直接跳转到高级标签页点击环境变量。

  • 添加环境变量:
    你可以选择配置用户变量(只对当前用户生效,推荐)或者系统变量(对所有用户生效)。点击对应区域的新建按钮:

    1. 配置PYSPARK_PYTHON:
      • 变量名:PYSPARK_PYTHON
      • 变量值:填写你Python解释器的完整路径,比如C:\Users\YourName\AppData\Local\Programs\Python\Python310\python.exe(记得替换成你自己的Python安装路径)。如果你的Python已经添加到系统PATH中,直接填python.exe也可以,但用完整路径能避免版本冲突。
    2. 配置PYSPARK_DRIVER_PYTHON:
      • 变量名:PYSPARK_DRIVER_PYTHON
      • 变量值:和上面的Python路径完全一致就行,这和你之前代码里用sys.executable取当前解释器路径的效果是一样的。
  • 让配置生效:
    点击所有弹出窗口的确定按钮保存设置,然后重启PyCharm(或者你用来运行PySpark的任何程序),新的环境变量才会被加载。

  • 验证配置是否成功:
    打开命令提示符(CMD),输入以下命令查看变量值:

    echo %PYSPARK_PYTHON%
    echo %PYSPARK_DRIVER_PYTHON%
    

    如果输出的是你设置的Python路径,说明配置成功。也可以在PyCharm里去掉代码中那两行os.environ的设置,运行一段简单的PySpark代码测试,比如:

    from pyspark.sql import SparkSession
    spark = SparkSession.builder.appName("Test").getOrCreate()
    df = spark.createDataFrame([(1, "test")], ["id", "name"])
    df.show()
    spark.stop()
    

    如果能正常运行并输出DataFrame,就说明配置没问题啦!

内容的提问来源于stack exchange,提问作者Mostafa Hosseini

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.04.30 22:07:32