PySpark中write.parquet与write.format('parquet')的差异是什么?
PySpark中两种Parquet保存方式的区别
这两种写法本质上完全等价,df.write.parquet(<path>)是df.write.format('parquet').save(<path>)的语法糖(简化调用方式),底层执行的逻辑完全一致。
具体细节差异:
df.write.format('parquet').save(<path>)是通用型保存写法:通过format()方法可以灵活指定任意Spark支持的输出格式(比如替换成csv、json、orc等),再调用save()完成存储,适合需要动态切换输出格式的场景。df.write.parquet(<path>)是Parquet专属的快捷方法:Spark为CSV、JSON、Parquet等常用格式都提供了这类直接调用的方法,省去了手动指定格式的步骤,写法更简洁直观。
比如要保存为CSV格式,通用写法是df.write.format('csv').save(<path>),快捷写法就是df.write.csv(<path>),逻辑和Parquet的情况完全一致。
内容的提问来源于stack exchange,提问作者Eugenio.Gastelum96
相关产品推荐
相关产品推荐

