LSTM模型训练报错IndexError: index out of range in self求助

错误原因 #

这个IndexError出现在Embedding层，核心原因是输入数据中的索引超出了Embedding层的词汇表范围。你的Embedding层初始化时指定了max_words=5000，意味着它仅能处理0到4999之间的索引（PyTorch Embedding层采用0-based索引），但训练数据中存在大于等于5000的索引值。

诊断步骤 #

先确认数据中的索引范围是否合规，在训练循环内添加一行打印代码：

def train(model, train_loader, optimizer, loss_fn, device):
    model.train()
    result = []
    for data, target in train_loader:
        # 新增：检查当前batch的最大索引值
        print(f"当前batch最大索引: {data.max().item()}, 词汇表大小: {max_words}")
        data, target = data.to(device).long(), target.to(device)
        optimizer.zero_grad()
        output = model(data)
        # ... 其余代码保持不变

如果输出的当前batch最大索引大于等于5000，即可确认是数据索引越界导致的错误。

修复方案 #

1. 修正数据预处理环节（根本解决方法） #

• 若使用Tokenizer（如Keras Tokenizer），初始化时必须设置num_words=max_words，这样只会保留词频最高的5000个词，超出的词会被映射为OOV（未知词）索引，且该索引需在0到4999范围内。
• 检查Tokenizer的oov_token设置：如果启用了OOV，确保其索引未超过max_words-1。例如设置oov_token="<OOV>"后，OOV的索引通常为1，只要max_words大于等于实际词汇表大小（包含OOV和padding）即可。

2. 修正代码中的无效赋值 #

你的代码存在一行无意义的赋值：

embedding_dim = embedding_dim

需替换为具体数值，例如：

embedding_dim = 128  # 可根据任务需求调整维度大小

3. 临时应急修复（不推荐长期使用） #

如果暂时无法修改数据预处理流程，可在训练时强制将索引截断至合法范围：

data = data.to(device).long()
# 新增：将超出范围的索引强制设为合法范围内的值（如OOV索引）
data = torch.clamp(data, 0, max_words-1)
target = target.to(device)

注意：这只是权宜之计，本质仍需从数据源头解决索引越界问题。

4. 确认LSTM部分的正确性 #

虽本次错误不在LSTM模块，但需确认：你的LSTM取最后一个时间步输出的逻辑是正确的（lstm_output[:, -1, :]），因为设置了batch_first=True，维度顺序为(batch_size, seq_len, hidden_dim)。

内容的提问来源于stack exchange，提问作者Ella