PySpark能否在单次SQL语句中关联多个DataFrame(SAS迁移场景)
解答
你写的多表关联操作完全可以在PySpark中正常实现,Spark SQL本身就支持单条SELECT语句内连续JOIN多张表,逻辑和你在SAS中使用的多表关联语法没有本质区别。
有一个小细节需要注意避免报错:
- 你的SQL语句中SELECT子句写的是
C.VAR_C,但你给C表定义的别名是小写的c,如果你的Spark开启了SQL大小写敏感配置(可通过spark.sql.caseSensitive参数调整,默认关闭),这个写法会抛出字段不存在的异常,统一修改为c.VAR_C就可以兼容所有配置场景。
关联的执行逻辑和SAS完全一致:会保留A表的全量数据,依次关联B、C表中匹配到的记录,未匹配到的VAR_B、VAR_C字段会自动填充为NULL值,你可以运行后调用D.show()验证结果是否符合预期。
内容的提问来源于stack exchange,提问作者Niels
相关产品推荐
相关产品推荐

