TensorFlow训练报错：labels与logits维度不匹配问题求助

错误原因 #

1. 形状不匹配：输入序列长度为7（"abcdefg"），模型对每个输入字符输出3类结果，导致logits形状为(7,3)；而目标标签是长度为3的序列(3,)，两者维度不匹配，违反SparseCategoricalCrossentropy的要求（除最后一维外形状需一致）。
2. 损失函数参数错误：模型最后一层Dense(3)无激活函数，输出的是logits，但SparseCategoricalCrossentropy被设为from_logits=False，参数不匹配。
3. 数据未转换为ID：直接将字符张量传入Embedding层，而Embedding仅支持整数ID输入，会导致潜在错误。

解决步骤与修改后代码 #

修改思路 #

任务为7字符输入→3字符输出的序列映射，需调整模型结构将输入序列压缩为固定特征，再输出对应长度的目标分类结果；同时修正数据格式与损失函数参数。

完整代码 #

import tensorflow as tf
text = "abcdefg xyz"
vocab = sorted(set(text))

# 字符-ID互转层
ids_from_chars = tf.keras.layers.StringLookup(
    vocabulary=list(vocab), mask_token=None)
chars_from_ids = tf.keras.layers.StringLookup(
    vocabulary=ids_from_chars.get_vocabulary(), invert=True, mask_token=None)

# 数据转换：字符转整数ID
input_ids = ids_from_chars(tf.strings.unicode_split("abcdefg", 'UTF-8'))
output_ids = ids_from_chars(tf.strings.unicode_split("xyz", 'UTF-8'))

# 构建数据集
train_dataset = tf.data.Dataset.from_tensors((input_ids, output_ids))

vocab_size = len(ids_from_chars.get_vocabulary())
embedding_dim = 256

# 调整模型结构：压缩序列特征→输出对应长度的分类logits
model = tf.keras.Sequential([
    tf.keras.layers.Embedding(vocab_size, embedding_dim),
    tf.keras.layers.GlobalAveragePooling1D(),  # 将(7,256)序列特征压缩为(256,)
    tf.keras.layers.Dense(250, activation='relu'),
    tf.keras.layers.Dense(3 * vocab_size),  # 输出3个字符的分类参数总和
    tf.keras.layers.Reshape((3, vocab_size))  # 重塑为(3, vocab_size)，匹配标签形状
])

# 修正损失函数参数：from_logits=True（输出为logits）
model.compile(optimizer='adam', 
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True), 
              metrics=['accuracy'])
model.summary()
model.fit(train_dataset, epochs=10, verbose=2)

关键修改点说明 #

• 数据格式修正：通过StringLookup将字符转换为Embedding层可接受的整数ID。
• 模型结构调整：用GlobalAveragePooling1D压缩输入序列的维度，再通过Reshape将输出调整为(3, vocab_size)，与目标标签(3,)的形状匹配（仅最后维度为分类数）。
• 损失函数修正：设置from_logits=True，匹配模型最后一层无激活函数的logits输出。

内容的提问来源于stack exchange，提问作者Tensor_noob