构建双向LSTM时遭遇维度不匹配ValueError问题求助

你遇到的ValueError核心是模型输出维度与目标数据维度完全不匹配，结合代码、模型摘要和数据集信息，问题出在三个核心环节：模型结构设计错误、目标数据格式不符合分类任务要求、指标与损失函数不匹配。

问题分析 #

1. 模型结构导致输出维度错误 #

从模型摘要可见，最后一层Dense输出形状为(None, 250, 15)，原因是两个Bidirectional LSTM都设置了return_sequences=True——该参数会让LSTM返回输入文本每个时间步（每个词）的输出，而你的任务是单样本单标签分类，只需要每个样本输出一组15类的概率分布，不需要每个时间步都输出结果。

2. 目标数据维度完全不符合分类任务要求 #

你的target_seq_train.shape为(59597, 5, 8205)，这完全不是文本分类的目标格式：

• 单标签分类的目标只能是两种格式：
  • 稀疏格式（对应sparse_categorical_crossentropy）：形状为(样本数,)或(样本数,1)，每个值是0-14的类别索引；
  • One-hot格式（对应categorical_crossentropy）：形状为(样本数,15)，每个样本是长度15的二进制向量，对应类别位置为1。
    当前的目标形状说明你可能误将其他任务（比如文本生成、相似度匹配的成对数据）的标签当成了分类任务标签，需要重新处理目标数据。

3. 指标与任务不匹配 #

你使用了metrics=['Accuracy']，但Keras中的Accuracy是针对二分类或多分类one-hot标签设计的，而你搭配的损失是sparse_categorical_crossentropy，应该对应使用sparse_categorical_accuracy指标，这也是报错中Equal节点维度不匹配的直接触发原因。

解决方案 #

1. 修正模型结构 #

将最后一个Bidirectional LSTM的return_sequences改为False，让模型输出每个样本的全局特征，而非每个时间步特征：

model_lstm = Sequential()

model_lstm.add(InputLayer(250,))

model_lstm.add(Embedding(input_dim=max_words+1, output_dim=200, weights=[embedding_matrix],
                         mask_zero=True, trainable=True, name='corpus_embed')) 

# 第一个LSTM保留return_sequences=True，传递序列特征给下一层
enc_lstm = Bidirectional(LSTM(128, activation='sigmoid', return_sequences=True, name='LSTM_Encod'))
model_lstm.add(enc_lstm)

model_lstm.add(Dropout(0.25))

# 最后一个LSTM设置return_sequences=False，输出全局特征
model_lstm.add(Bidirectional(LSTM(128, activation='sigmoid', dropout=0.25, return_sequences=False, name='LSTM_Decod')))

model_lstm.add(Dropout(0.25))

# 此时Dense层输出形状为(None,15)，对应每个样本的15类概率
model_lstm.add(Dense(15, activation='softmax'))

2. 修正目标数据格式 #

重新处理target_seq_train和target_seq_test，转换为分类任务的正确格式：

• 如果原始标签是类别索引（0-14的数字），调整形状为(59597,)：

  # 根据实际数据结构提取类别索引，示例代码：
  target_seq_train = target_seq_train.reshape(-1)
  target_seq_test = target_seq_test.reshape(-1)
  

• 如果需要转成one-hot编码：

  from tensorflow.keras.utils import to_categorical
  target_seq_train = to_categorical(target_seq_train, num_classes=15)
  target_seq_test = to_categorical(target_seq_test, num_classes=15)
  

3. 匹配损失函数与指标 #

• 使用稀疏类别索引目标时：

  model_lstm.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['sparse_categorical_accuracy'])
  

• 使用one-hot标签时：

  model_lstm.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['categorical_accuracy'])
  

内容的提问来源于stack exchange，提问作者mj lajy