Cloudera Sqoop导入SQL查询WHERE子句GROUP函数误用报错
解决Sqoop导入中聚合函数的使用错误
你这个报错的核心原因很明确:在WHERE子句里直接使用了聚合函数count(),MySQL的语法规则里,WHERE是用来筛选原始行数据的,而聚合函数(比如count、sum)是对分组后的数据进行计算的,这类条件必须放到HAVING子句中,而且要搭配GROUP BY一起使用。
要实现“仅关联1台设备的账户记录”这个需求,我们得先找出所有只关联一台设备的账户ID,再和accounts表关联获取账户信息。修正后的Sqoop命令如下:
[training@localhost ~]$ sqoop import -P \ --connect jdbc:mysql://localhost/loudacre \ --username training \ --target-dir /ZXS107020/loudacre/pset1 \ --split-by accounts.acct_num \ --query 'SELECT a.first_name, a.last_name, a.acct_num, a.city, a.state FROM accounts a JOIN ( SELECT account_id FROM accountdevice GROUP BY account_id HAVING COUNT(*) = 1 ) ad ON a.acct_num = ad.account_id WHERE $CONDITIONS'
关键修正点说明:
- 用子查询先从
accountdevice表中筛选出仅关联1台设备的account_id:通过GROUP BY account_id按账户分组,再用HAVING COUNT(*) = 1过滤出分组后设备数量为1的记录 - 主查询将这个子查询的结果和
accounts表关联,获取对应的账户详情 - 保留了
$CONDITIONS在WHERE子句中——这是Sqoop并行导入的要求,不能省略,否则会报错 - 给表起了别名(
a代表accounts,ad代表子查询结果),让SQL更简洁易读
这样执行命令应该就能成功导出你需要的账户数据了。
内容的提问来源于stack exchange,提问作者zsad512
相关产品推荐
相关产品推荐

