You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Word2Vec(CBOW与Skip-gram)中窗口大小的正确定义是什么?

Word2Vec窗口大小的两种定义:哪种更准确?

两种定义都有实际使用场景,没有绝对的“对错”,核心看你参照的是原始论文标准还是工具实现的约定:

  • 原始论文的标准定义
    Mikolov等人2013年发布的Word2Vec原始论文中,窗口大小指的是目标词单侧(前或后)的最大单词数量(不含目标词本身)。比如窗口大小设为3时,目标词前后各最多取3个词,上下文范围是目标词前3位到后3位的所有词,最多包含6个上下文词。

  • 工具实现中的常见变体
    不少主流工具(比如Gensim的Word2Vec模块)或科普资料里,会把窗口大小定义为包含目标词在内的上下文总词数。比如窗口大小设为3时,上下文是目标词+前后各1个词,总共3个词。这种设定是为了让用户更直观感知上下文的覆盖范围,属于工具层的简化表述。

  • 怎么判断用哪种?
    如果是学术讨论、复现论文实验,优先遵循原始论文的「单侧词数」定义;如果是使用具体工具做工程实现,一定要以工具官方文档的定义为准,避免参数设置错误导致结果偏差。

举个直观例子:

  • 按原始定义窗口=2:目标词"fox"在句子"quick brown fox jumps over"中的上下文是"quick brown jumps over"(前后各2个词)。
  • 按工具变体窗口=5:同样的句子,上下文是"quick brown fox jumps over"(包含目标词共5个词),对应原始定义的窗口=2。

内容的提问来源于stack exchange,提问作者Erik Zsolt Varga

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.07.20 07:37:03