You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何在Python中修改Spark配置?添加指定参数报错求助

解决SparkSession配置修改问题

直接在SparkSession构建链中添加对应的.config()配置项即可,注意参数格式正确,以下是修正后的代码:

spark = SparkSession.builder \
    .appName('CD6') \
    .config('spark.ui.port', '9999') \
    .config('spark.sql.hive.convertMetastoreOrc', 'false') \
    .config('spark.sql.hive.convertMetastoreParquet', 'false') \
    .enableHiveSupport() \
    .getOrCreate()

注意事项:

  • 每个配置项通过独立的.config(key, value)方法添加,键值对均使用字符串格式(也可以直接传入布尔值False,Spark会自动适配)
  • 若之前报错,常见原因是参数格式错误:比如直接写false未加引号(会被Python识别为未定义变量),或者链式调用时语法不规范(比如换行未加反斜杠、遗漏方法前的.)

内容的提问来源于stack exchange,提问作者Anand Reddy

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.08 21:45:32