如何让Job History Server不显示MR应用相关信息?求类似Spark的配置方法
如何让Hadoop Job History Server不显示MR应用信息
当然有类似的配置方式,核心思路就是切断Job History Server获取MR作业历史日志的来源,具体可以按以下两种方式操作:
1. 直接禁用MR作业历史日志的生成
修改Hadoop的mapred-site.xml配置文件,添加或修改以下配置项:
<property> <name>mapreduce.jobhistory.enabled</name> <value>false</value> </property>
这个配置会让MR作业完全不生成历史日志,Job History Server自然就没有任何MR应用信息可展示了。
2. 修改历史日志存储路径为无效/不可访问路径
如果不想完全禁用日志生成,只是不让Job History Server读取到这些日志,可以修改日志存储路径:
<property> <name>mapreduce.jobhistory.done-dir</name> <value>/invalid/path/that/does/not/exist</value> </property> <property> <name>mapreduce.jobhistory.intermediate-done-dir</name> <value>/invalid/path/that/does/not/exist</value> </property>
Job History Server会定期扫描这两个配置指定的路径来加载作业历史,把它们设为不存在的HDFS路径后,Server就扫不到任何MR作业日志了。
注意:修改完配置后,需要重启ResourceManager和JobHistoryServer服务才能生效,并且所有提交MR作业的节点都要同步这个配置,避免部分作业仍生成日志。
内容的提问来源于stack exchange,提问作者ash_ketchum12
相关产品推荐
相关产品推荐

