Keras序列模型训练报错：形状(None,28)与(None,28,10)不兼容

错误原因 #

报错ValueError: Shapes (None, 28) and (None, 28, 10) are incompatible的核心逻辑冲突：

• 模型最后一层Dense(output_vocab_size, activation='softmax')输出的是每个时间步对应输出词汇表所有类别的概率分布，形状为(样本数, 序列长度, 输出词汇表大小)（即(None,28,10)）。
• 你传入的output_sequence_padded是整数标签序列，形状为(样本数, 序列长度)（即(None,28)），而categorical_crossentropy损失函数要求标签必须是one-hot编码格式，两者维度不匹配导致报错。

两种可行解决方法 #

方法1：改用稀疏分类交叉熵损失（推荐，无需修改标签） #

直接更换模型编译时的损失函数为sparse_categorical_crossentropy，该损失函数专门适配整数形式的分类标签，不需要对输出序列做额外编码：

# 编译模型时修改loss参数
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])

修改后直接用原有的output_sequence_padded训练即可，无需其他改动。

方法2：对输出序列做One-Hot编码 #

如果坚持使用categorical_crossentropy，需要把整数标签转换为one-hot编码格式：

1. 导入Keras的one-hot工具：

from tensorflow.keras.utils import to_categorical

2. 对填充后的输出序列进行编码：

# 指定num_classes为输出词汇表大小，确保编码维度与模型输出匹配
output_sequence_onehot = to_categorical(output_sequence_padded, num_classes=output_vocab_size)

3. 训练时传入编码后的序列：

model.fit(input_sequence_padded, output_sequence_onehot, epochs=10)

额外优化点 #

1. 修正Embedding层输入长度：
   原代码中Embedding层的input_length设置为max_input_length，但输入序列已经被pad到max_sequence_length，需要同步修改：

Embedding(input_vocab_size, embedding_dim, input_length=max_sequence_length),

2. 优化昵称生成逻辑：
   生成昵称时过滤掉填充的0对应的无效字符，避免生成带空内容的结果：

def generate_nickname(input_text):
    input_sequence = input_tokenizer.texts_to_sequences([input_text])
    input_sequence = pad_sequences(input_sequence, maxlen=max_sequence_length, padding='post')
    predicted_sequence = model.predict(input_sequence, verbose=0)
    max_arg = np.argmax(predicted_sequence, axis=-1)[0]
    # 过滤填充的0
    valid_indices = max_arg[max_arg != 0]
    # 转换为文本并去掉默认的空格分隔符
    predicted_nickname = output_tokenizer.sequences_to_texts([valid_indices])[0].replace(' ', '')
    return predicted_nickname

内容的提问来源于stack exchange，提问作者Madhup Singh Yadav