为何word2bits的内存占用与word2vec相近?含小数据集测试
Word2Bits vs Word2Vec: Memory Footprint Test on Small Datasets
我最近在处理大型数据集时尝试了Word2Bits,本来期待它能凭借位量化特性比Word2Vec节省内存,结果实际观测到二者的内存占用水平相近。为了验证是不是数据集规模影响了结果,我专门针对小数据集开展了一组对比测试:
- 针对Word2Bits:运行其官方文档中给出的示例任务,全程用
htop工具实时监测内存占用情况 - 针对Word2Vec:用它处理经典的text8数据集,同样通过
htop追踪内存使用变化
经过多次重复测试,我发现这两个任务的内存占用完全一致,并没有出现Word2Bits理论上应该具备的内存优势。
内容的提问来源于stack exchange,提问作者prasanna
相关产品推荐
相关产品推荐

