多租户Hadoop集群中Impala资源管理的最优方案是什么?
多租户Hadoop集群下Impala 2.8+资源管理最优方案
根据Impala官方说明,Impala 2.8及更高版本已完全移除Llama支持代码,这意味着Impala资源不再由Yarn进行管理。
目前行业内通用的最优方案是Impala原生准入控制 + Cgroups资源隔离的组合方案,具体配置逻辑如下:
- 优先启用Impala自带的Admission Control(准入控制),这是Impala官方主推的原生资源管理能力
- 按租户/业务线划分独立资源池,每个池可单独配置最大可用内存、最大并发查询数、查询优先级、队列超时时间。比如核心业务租户的资源池可分配集群Impala总内存的60%,允许最高20并发查询;普通临时查询用户的池分配20%内存,最多允许5个并发,从规则上避免不同租户的资源争抢
- 配置自动路由规则,可根据用户名、用户组、请求来源IP、查询类型(DDL/大查询/小查询)等维度,自动把请求分配到对应资源池,还可设置单查询内存上限,超过阈值的异常查询直接被拒绝,避免个别大查询占满整个集群资源
- 开启资源池排队机制,资源池满额时新查询进入队列等待,无需直接返回报错,可自行设置队列最大长度和超时时间,超时未执行的查询自动终止
- 配合Cgroups实现节点级硬件资源隔离
- 给Impala集群的所有守护进程单独绑定Cgroup分组,限制Impala整体的CPU、内存、磁盘IO占用上限,避免Impala负载过高时影响同集群部署的Hive、Spark等其他计算引擎的作业运行
- 也可给不同的Impala Daemon节点配置不同的Cgroup配额,高配置节点专门分配给核心业务租户使用,实现硬件资源的差异化分配
- 配套动态调优机制
- 开启Impala查询指标和日志采集,定期统计不同租户的资源使用规律,业务高峰期可临时调整资源池配额保障核心业务,低峰期可放开配额提高集群整体资源利用率
- 配置异常查询自动终止规则,运行时长、内存占用超过预设阈值的查询自动杀掉,避免资源被无效占用
这套方案无需额外引入第三方组件,配置简单,资源调度效率远高于原来基于Llama+Yarn的方案,完全可以满足绝大多数多租户集群的资源管理需求。
内容的提问来源于stack exchange,提问作者Yarra
相关产品推荐
相关产品推荐

