如何解决Keras中构建含Embedding层的指定结构LSTM网络的形状不匹配问题？

这个问题我太熟悉了！本质上是没搞对LSTM层的return_sequences参数——这可是串联LSTM层时最容易踩的坑之一。

Keras里的LSTM层默认只会输出最后一个时间步的隐藏状态（形状是(batch_size, units)），但当你要把LSTM的输出传给下一个LSTM层时，下一层需要的是整个序列的所有时间步输出（形状是(batch_size, timesteps, units)）。如果第一个LSTM没开启return_sequences=True，就会出现输入输出形状不匹配的错误。

下面是完全符合你需求的代码，我会加上关键注释：

from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Embedding, LSTM, Dropout, Dense

# 假设你的词汇表大小是10000，嵌入维度128，输入序列长度50，分类数为10
vocab_size = 10000
embedding_dim = 128
sequence_length = 50
num_classes = 10

model = Sequential([
    # Embedding层：将整数索引转为密集向量
    Embedding(input_dim=vocab_size, 
              output_dim=embedding_dim, 
              input_length=sequence_length),
    
    # 第一个LSTM层：需要传递序列输出，必须设置return_sequences=True
    LSTM(units=64, return_sequences=True),
    Dropout(0.5),
    
    # 第二个LSTM层：仅输出最后一个隐藏状态，return_sequences=False是默认值，可省略
    LSTM(units=64),
    Dropout(0.5),
    
    # 最后Dense层：softmax激活完成分类
    Dense(units=num_classes, activation='softmax')
])

# 查看模型结构确认每一层的输出形状
model.summary()

• return_sequences=True：让LSTM输出每个时间步的隐藏状态，形状为(batch_size, sequence_length, units)，刚好匹配下一个LSTM层的3D输入要求。
• return_sequences=False（默认）：仅输出最后一个时间步的隐藏状态，形状为(batch_size, units)，适合传给Dense这类需要2D输入的全连接层。

如果你之前的代码报错，大概率是以下两种情况之一：

• 第一个LSTM层没加return_sequences=True，导致输出是2D张量，第二个LSTM层需要3D输入，触发形状不兼容错误。
• 第二个LSTM层错误地加了return_sequences=True，导致输出是3D张量，而Dense层需要2D输入，同样会报错。

运行上面的代码后，通过model.summary()可以看到每一层的输出形状完全符合预期：

• Embedding层输出：(None, 50, 128)
• 第一个LSTM+Dropout输出：(None, 50, 64)
• 第二个LSTM+Dropout输出：(None, 64)
• Dense层输出：(None, 10)

这样整个模型的数据流就完全通顺啦！

内容的提问来源于stack exchange，提问作者Jsevillamol