TensorFlow训练时出现「logits shape [3,3] and labels shape [33]」错误的含义咨询

错误含义解释 #

这个错误直白来说就是模型输出的logits和输入的标签维度不匹配：

• 你的模型当前输出的logits形状是[3,3]：第一个3代表当前批次的样本数量，第二个3是最后一层Dense的输出单元数（也就是你设定的分类类别数）
• 而标签的形状被自动处理成了[33]，这和logits的第一维度（3）完全对不上，所以TensorFlow触发了维度不匹配的报错。

代码问题分析 #

咱们拆解下你的代码核心问题：

1. 标签维度不符合损失函数要求
   你选用的sparse_categorical_crossentropy是专门给单标签多分类任务设计的——意思是每个样本只能属于一个类别，标签应该是单个整数索引，形状为(样本数,)。但你生成的y是(3,11)的二维数组，传入model.fit时会被自动展平成(33,)，这就和模型输出的(3,3)（3个样本，每个输出3个类别）的第一维度完全不匹配。
2. 数据样本逻辑误解
   你的x是(3,11)，代表3个样本、每个样本有11个特征，但y做成(3,11)相当于给每个样本分配了11个标签，这完全不符合单分类任务的逻辑。
3. batch_size设置不合理
   总共只有3个样本，你把batch_size设成10，虽然TensorFlow会自动调整为取全部样本，但这个设置本身没有意义，建议改成和样本数匹配的数值（比如3）。

修正方案 #

情况1：单标签多分类任务（每个样本属于3个类别中的一个）

修改标签维度，使其符合损失函数要求：

import numpy as np
import tensorflow as tf
from tensorflow import keras
from tensorflow.keras import layers

# 3个样本，每个样本11个特征
x = np.random.randint(40,100,33).reshape(3, 11)
# 3个样本，每个对应一个类别索引（0-2，和最后一层输出的3个类别对应）
y = np.random.randint(0, 3, 3)

model = keras.Sequential(
    [
        layers.Dense(3, activation="relu", name="layer1"),
        layers.Dense(3, activation="relu", name="layer2"),
        layers.Dense(3, name="layer3"),  # 多分类任务最后一层可不加激活，损失函数会自动处理
    ]
)

model.compile(optimizer=keras.optimizers.Adam(learning_rate=.0001),
              loss='sparse_categorical_crossentropy',
              metrics=['accuracy'])
# 调整batch_size为3，和样本数一致
model.fit(x, y, batch_size=3, epochs=5, verbose=2)

情况2：多标签分类任务（每个样本可属于多个类别）

如果你的需求是给每个样本标记多个类别，需要调整损失函数和最后一层的激活函数：

import numpy as np
import tensorflow as tf
from tensorflow import keras
from tensorflow.keras import layers

x = np.random.randint(40,100,33).reshape(3, 11)
# 3个样本，每个样本对应11个二分类标签（0或1，表示是否属于该类别）
y = np.random.randint(0, 2, (3, 11))

model = keras.Sequential(
    [
        layers.Dense(3, activation="relu", name="layer1"),
        layers.Dense(3, activation="relu", name="layer2"),
        layers.Dense(11, activation="sigmoid", name="layer3"),  # 输出11个标签，用sigmoid激活
    ]
)

model.compile(optimizer=keras.optimizers.Adam(learning_rate=.0001),
              loss='binary_crossentropy',  # 多标签任务用binary交叉熵
              metrics=['accuracy'])
model.fit(x, y, batch_size=3, epochs=5, verbose=2)

内容的提问来源于stack exchange，提问作者fsa