TensorFlow 2.16.1中处理不同形状张量训练数据的问题

核心问题：不同形状张量无法直接打包为单个Tensor #

TensorFlow的tf.stack或直接转换为Tensor会要求所有输入形状完全一致，所以你遇到的Shapes of all inputs must match错误是必然的——不同形状的张量不能合并成一个Tensor，必须保持张量列表/元组的形式，但要正确定义数据集的输出签名。

解决tf.keras.utils.PyDataset的output_signature错误 #

自定义PyDataset时，不能直接返回列表，要把每个张量作为独立输出，同时在output_signature里明确每个输出的类型和形状（动态维度可以用None占位）。

示例代码 #

import tensorflow as tf

# 自定义数据集类
class CustomDataset(tf.keras.utils.PyDataset):
    def __init__(self, data_list):
        super().__init__()
        self.data_list = data_list

    def __len__(self):
        return len(self.data_list)

    def __getitem__(self, idx):
        # 以元组形式返回不同形状的输入张量和标签
        x1 = self.data_list[idx][0]
        x2 = self.data_list[idx][1]
        y = self.data_list[idx][2]
        return (x1, x2), y

# 构造示例数据：每个样本包含两个不同形状的张量和一个标签
data = [
    (tf.random.normal((2,2)), tf.random.normal((3,3)), tf.constant(0)),
    (tf.random.normal((2,2)), tf.random.normal((3,3)), tf.constant(1)),
]

# 初始化数据集，明确output_signature对应每个输入的规格
dataset = CustomDataset(data, 
                        output_signature=(
                            (tf.TensorSpec(shape=(2,2), dtype=tf.float32),
                             tf.TensorSpec(shape=(3,3), dtype=tf.float32)),
                            tf.TensorSpec(shape=(), dtype=tf.int32)
                        ))

# 自定义模型：接受多输入并分别处理
class CustomModel(tf.keras.Model):
    def __init__(self):
        super().__init__()
        self.dense1 = tf.keras.layers.Dense(10, activation='relu')
        self.dense2 = tf.keras.layers.Dense(10, activation='relu')
        self.concat = tf.keras.layers.Concatenate()
        self.output_layer = tf.keras.layers.Dense(2, activation='softmax')

    def call(self, inputs):
        x1, x2 = inputs
        # 扁平化不同形状的输入后分别处理
        x1_flat = tf.keras.layers.Flatten()(x1)
        x2_flat = tf.keras.layers.Flatten()(x2)
        x1_processed = self.dense1(x1_flat)
        x2_processed = self.dense2(x2_flat)
        combined = self.concat([x1_processed, x2_processed])
        return self.output_layer(combined)

# 编译并训练模型
model = CustomModel()
model.compile(optimizer='adam', loss='sparse_categorical_crossentropy', metrics=['accuracy'])
model.fit(dataset, epochs=5)

关键要点 #

• 数据集返回元组形式的多输入，而非列表；output_signature要严格对应每个输入的tf.TensorSpec，如果存在动态维度（比如某维度长度不固定），可以用None替代具体数值，例如(None, 2)。
• 模型的call方法要接收元组形式的多输入，分别处理后再合并或独立输出。
• 如果每个样本的张量数量不固定，需要用Ragged Tensor封装，但这种场景复杂度较高，优先建议统一每个样本的输入数量，仅保留形状差异。

内容的提问来源于stack exchange，提问作者Dan