Hadoop 2.7+:如何通过现代API启用中间数据压缩?
中间数据压缩配置的踩坑记录
我最近在折腾中间数据压缩的配置,翻了好多资料,结果发现大部分都是用已废弃的API来实现的,完全找不到适配当前版本的可行方案。我也去查了相关的API文档,目前还没瞅见明确的等效实现——当然也有可能是我还在摸熟这项技术,经验不够导致漏看了。
给你看看我找到的一个旧版本示例代码:
JobConf conf = new JobConf(new Configuration(), MyJob.class); conf.set("mapreduce.compress.map.output", "true"); conf.set("mapreduce.map.output.compression.codec", "..."); // 原示例内容未完整展示
内容的提问来源于stack exchange,提问作者J. Boley
相关产品推荐
相关产品推荐

