Keras中GloVe词嵌入矩阵首行为零的原因探究

这个问题其实和Keras Tokenizer的内置设计直接相关，我来帮你拆解清楚背后的原因：

• Tokenizer的索引预留规则
  Keras的Tokenizer在生成词汇表时，会默认把索引0专门留给「序列填充（padding）标记」。当你处理长度不一致的文本序列时，需要用这个标记把短序列补成模型要求的统一长度，它本身没有任何实际语义，所以对应的词嵌入向量设为全零是完全合理的设计。

• 代码循环的处理范围
  你代码里的word_index字典，里面存储的所有词汇对应的id都是从1开始的（比如数据集里第一个出现的词id是1，第二个是2，以此类推）。所以循环for word, i in word_index.items()只会处理i≥1的词汇，根本不会触及索引0的位置。而你初始化embedding_matrix时用了全零矩阵，所以索引0对应的第一行自然就保持全零了。

• 额外的细节补充
  代码里注释提到的「words not found in embedding index will be all-zeros」，说的是那些在你的数据集里出现，但不在GloVe预训练词表中的词汇——它们的id是≥1的，但因为找不到对应的预训练向量，所以也会被设为全零。这和索引0的全零是两种不同的情况，但都是符合NLP任务需求的设计：前者是专门的填充标记，后者是对未知词的默认处理方式。

内容的提问来源于stack exchange，提问作者Peter B