如何在Hive与Spark中实现姓名拆分为单字符的输出需求?
没问题,我来帮你搞定这个把名字拆分成单个字符并逐行输出的需求,分别给你Hive和Spark的实现方案:
HiveSQL实现方案
核心思路就是把name字段拆成单个字符的数组,再通过行转列的方式把每个字符和原表的id、dob一一对应输出。这里用lateral view搭配posexplode函数就能轻松实现:
首先可以先创建测试表并插入数据(如果你已经有现成表的话可以跳过这步):
CREATE TABLE IF NOT EXISTS test_table ( id INT, name STRING, dob STRING ); INSERT INTO test_table VALUES (1, 'anjan', '10-16-1989');
然后执行查询语句就能得到目标结果:
SELECT t.id, split_char AS name, t.dob FROM test_table t LATERAL VIEW posexplode(split(t.name, '')) exploded AS pos, split_char;
简单解释下:split(t.name, '')会把name拆成单个字符组成的数组,posexplode会把数组的每个元素拆成单独一行(同时返回元素位置,这里我们用不上位置,只取字符即可),lateral view用来关联原表的其他字段,保证每个字符都能对应到原有的id和dob。
Spark实现方案
Spark这边我给你两种常用的实现方式,你可以根据自己的使用场景选择:
方式一:Spark SQL实现
Spark SQL兼容大部分Hive语法,所以思路和Hive几乎一致,先创建临时视图再执行SQL即可:
import org.apache.spark.sql.SparkSession val spark = SparkSession.builder() .appName("SplitNameExample") .getOrCreate() // 构造测试数据 val testData = Seq((1, "anjan", "10-16-1989")) val df = spark.createDataFrame(testData).toDF("id", "name", "dob") // 创建临时视图供SQL查询 df.createOrReplaceTempView("test_table") // 执行查询 val resultDf = spark.sql(""" SELECT id, split_char AS name, dob FROM test_table LATERAL VIEW posexplode(split(name, '')) exploded AS pos, split_char """) // 查看输出结果 resultDf.show()
方式二:DataFrame API实现
如果更偏向编程式处理,用DataFrame的内置函数操作会更灵活:
import org.apache.spark.sql.functions._ // 基于上面构造的df继续处理 val resultDf = df // 拆分name为字符数组并转成多行,同时获取位置(这里位置可忽略) .select( col("id"), col("dob"), posexplode(split(col("name"), "")).alias("pos", "split_char") ) // 选择需要的字段并把拆分后的字符重命名为name .select("id", "split_char", "dob") .withColumnRenamed("split_char", "name") // 打印结果 resultDf.show()
内容的提问来源于stack exchange,提问作者D Anjaneyulu
相关产品推荐
相关产品推荐

