Keras搭建Bi-LSTM报错：维度不匹配（7与300）求解决方案

错误根源 #

你遇到的维度不匹配问题来自两个核心问题：

1. 输出维度不匹配：BiLSTM层设置了return_sequences=True，导致输出为三维张量[batch_size, 序列长度, 300]，但你的独热编码标签是二维张量[batch_size,7]，两者维度无法对齐，触发损失计算错误。
2. 输出单元数不匹配：最后一层Dense的输出单元数设为300，和你的7类标签完全不对应，无法完成分类映射。

针对性解决方案 #

根据你的任务类型（单样本分类/序列标注），选择对应修改方式：

情况1：单样本分类（每个输入序列对应1个标签）

这种场景下，我们只需要保留BiLSTM对整个序列的最终输出，调整如下：

from tensorflow.keras.layers import Bidirectional
model = Sequential()

embedding_layer = Embedding(input_dim=1031 + 1,
                            output_dim=300,
                            weights=[embedding_matrix],
                            trainable=False)
model.add(embedding_layer)

# 移除return_sequences=True，默认返回序列的最后一个时间步输出（二维张量）
bilstm_layer = Bidirectional(LSTM(units=300))
model.add(bilstm_layer)
# 输出单元数改为7，对应标签类别数，用sigmoid适配binary_crossentropy
model.add(Dense(7, activation="sigmoid"))
model.compile(optimizer="adam", loss='binary_crossentropy', metrics='acc')
model.summary()

情况2：序列标注（每个序列中的每个token对应1个标签）

如果是逐token的标注任务，需要保持序列维度，同时调整标签格式：

from tensorflow.keras.layers import Bidirectional
model = Sequential()

embedding_layer = Embedding(input_dim=1031 + 1,
                            output_dim=300,
                            weights=[embedding_matrix],
                            trainable=False)
model.add(embedding_layer)

# 保留return_sequences=True，输出三维张量对应每个token的特征
bilstm_layer = Bidirectional(LSTM(units=300, return_sequences=True))
model.add(bilstm_layer)
# 输出单元数改为7，对应每个token的标签类别
model.add(Dense(7, activation="sigmoid"))
model.compile(optimizer="adam", loss='binary_crossentropy', metrics='acc')
model.summary()

注意：此时需要将你的标签数组从[样本数,7]调整为[样本数, 序列长度,7]，确保每个token都有对应的标签。

额外优化建议 #

1. 简化嵌入矩阵生成函数，用dict.get()替代try-except更简洁：

def create_embeddings(fichier,dictionnaire,dictionnaire_tokens):
    with open(fichier) as file:
        max_words = max(dictionnaire_tokens.values())+1 #1032
        max_size_dimensions = 300
        emb_matrix = np.zeros((max_words,max_size_dimensions))
        for item,count in dictionnaire_tokens.items():
            vecteur = dictionnaire.get(item)
            if vecteur is not None:
                emb_matrix[count]= vecteur
        return emb_matrix

2. 如果你的7类标签是互斥的，建议改用categorical_crossentropy损失函数，搭配softmax激活函数，分类效果更合理。

内容的提问来源于stack exchange，提问作者Balkhrod