Java中获取MongoDB指定formID文档全部键能否用MapReduce优化
结论
当前你使用的基础方案比MapReduce方案更优,没有必要使用MapReduce优化该需求
核心原因
- MapReduce执行开销过高:MongoDB的MapReduce需要调用服务端JS引擎执行,加上调度、Shuffle、结果落盘的额外开销,对于提取指定formID文档键集的小需求来说属于典型的过度设计,性能远不如你当前的实现。
- 现有方案优势明显:代码逻辑简单易维护,不需要额外编写服务端执行脚本,排查问题成本极低,客户端用HashSet做键去重的效率很高,不会产生额外的服务端压力。
- 极端场景下的替代方案:如果你要查询的formID对应文档量级极大(单formID对应数十万甚至上百万份文档),拉取全量文档到客户端的带宽成本已经超过服务端计算成本,也优先选择MongoDB 3.4及以上版本自带的聚合框架实现,性能比MapReduce高30%以上,聚合示例如下:
db.collection.aggregate([ // 先过滤指定formID,和你现有查询条件一致 { $match: { formid: "你要查询的formId值" } }, // 将文档的键值对转成数组 { $project: { keys: { $objectToArray: "$$ROOT" } } }, // 打平所有键数组 { $unwind: "$keys" }, // 去重分组拿到所有唯一键 { $group: { _id: null, allKeys: { $addToSet: "$keys.k" } } } ])
内容的提问来源于stack exchange,提问作者alexic0n_
相关产品推荐
相关产品推荐

