如何在Python中修改Spark配置?添加指定参数报错求助
解决SparkSession配置修改问题
直接在SparkSession构建链中添加对应的.config()配置项即可,注意参数格式正确,以下是修正后的代码:
spark = SparkSession.builder \ .appName('CD6') \ .config('spark.ui.port', '9999') \ .config('spark.sql.hive.convertMetastoreOrc', 'false') \ .config('spark.sql.hive.convertMetastoreParquet', 'false') \ .enableHiveSupport() \ .getOrCreate()
注意事项:
- 每个配置项通过独立的
.config(key, value)方法添加,键值对均使用字符串格式(也可以直接传入布尔值False,Spark会自动适配) - 若之前报错,常见原因是参数格式错误:比如直接写
false未加引号(会被Python识别为未定义变量),或者链式调用时语法不规范(比如换行未加反斜杠、遗漏方法前的.)
内容的提问来源于stack exchange,提问作者Anand Reddy
相关产品推荐
相关产品推荐

