如何对Hive关联Druid的外部表排序？执行ORDER BY遇连接错误

Hey there, let's break down what's happening and fix this issue together!

问题回顾 #

你已经创建了关联Druid数据源的Hive外部表，简单的SELECT id FROM druidtable;可以正常返回结果，但添加ORDER BY id后就触发了连接拒绝错误，报错核心是：

java.net.ConnectException: Connection refused: localhost/127.0.0.1:8082

为什么会出现这个差异？ #

• 简单SELECT查询时，Hive的Druid存储 handler 会直接将查询发送给Druid Broker（默认端口8888），Broker会处理查询并返回结果，不需要直接和Druid的Historical节点交互。
• 当添加ORDER BY时，Hive会启动Tez/MapReduce作业来处理排序，这时候需要将Druid的数据分片分配给各个Map任务。为了获取分片信息，Hive需要连接Druid的Historical节点（默认端口8082），或者通过Druid Coordinator获取Historical节点的地址。如果配置中Historical的地址被设为localhost，而执行Hive作业的节点（可能是集群中的其他机器）无法访问这个本地端口，就会出现连接拒绝。

解决方案步骤 #

1. 检查Druid Historical节点的配置与状态

• 登录Druid Historical节点，确认druid.plaintextPort（默认8082）是否正确配置，并且端口处于监听状态：

  ss -tulpn | grep 8082
  

  你应该能看到进程监听该端口的记录。
• 确保Druid Historical节点的druid.service配置正确，并且集群内其他节点能通过实际IP/主机名访问到它，而不是localhost。

2. 验证Hive的Druid相关配置

• 检查Hive中Druid Coordinator的地址配置，确保Hive能正确获取Druid集群的节点信息：

  SET hive.druid.coordinator.address;
  

  这个值应该指向Druid Coordinator的实际IP/主机名（默认端口8081），而不是localhost。
• 确认hive.druid.broker.address.default配置正确指向Druid Broker的地址，虽然简单查询没问题，但这个配置也会影响后续的交互。

3. 测试网络连通性

• 在执行Hive作业的节点上，测试到Druid Historical节点的8082端口的连通性：

  telnet <druid-historical-ip> 8082
  # 或者用curl
  curl http://<druid-historical-ip>:8082/status
  

  如果连接失败，检查防火墙规则是否允许Hive节点和Druid Historical节点之间的8082端口通信，或者网络路由是否正常。

4. 临时验证方案（快速确认问题）

如果需要快速验证问题是否确实来自Historical节点连接，可以在Hive查询前添加以下配置，让Hive跳过分片直接通过Broker查询：

SET hive.druid.input.split.type=none;
SELECT id FROM druidtable ORDER BY id;

这个方案会让排序在Hive端完成，虽然大数据量下性能可能受影响，但可以快速确认问题根源。

内容的提问来源于stack exchange，提问作者Klompara