You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

如何让Job History Server不显示MR应用相关信息?求类似Spark的配置方法

如何让Hadoop Job History Server不显示MR应用信息

当然有类似的配置方式,核心思路就是切断Job History Server获取MR作业历史日志的来源,具体可以按以下两种方式操作:

1. 直接禁用MR作业历史日志的生成

修改Hadoop的mapred-site.xml配置文件,添加或修改以下配置项:

<property>
  <name>mapreduce.jobhistory.enabled</name>
  <value>false</value>
</property>

这个配置会让MR作业完全不生成历史日志,Job History Server自然就没有任何MR应用信息可展示了。

2. 修改历史日志存储路径为无效/不可访问路径

如果不想完全禁用日志生成,只是不让Job History Server读取到这些日志,可以修改日志存储路径:

<property>
  <name>mapreduce.jobhistory.done-dir</name>
  <value>/invalid/path/that/does/not/exist</value>
</property>
<property>
  <name>mapreduce.jobhistory.intermediate-done-dir</name>
  <value>/invalid/path/that/does/not/exist</value>
</property>

Job History Server会定期扫描这两个配置指定的路径来加载作业历史,把它们设为不存在的HDFS路径后,Server就扫不到任何MR作业日志了。

注意:修改完配置后,需要重启ResourceManager和JobHistoryServer服务才能生效,并且所有提交MR作业的节点都要同步这个配置,避免部分作业仍生成日志。

内容的提问来源于stack exchange,提问作者ash_ketchum12

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.08.19 09:35:20