TensorFlow多输入Dataset中Tensor的set_shape设置及报错解决

核心问题拆解 #

你遇到的InternalError: Graph execution error: Unsupported object type numpy.ndarray，本质是Dataset的map操作里直接返回了numpy数组，而TensorFlow要求返回TensorFlow张量；另外多输入场景下，只需给每个输入张量单独设置形状即可，逻辑和单输入一致，只是要分别处理每个输入。

具体解决方案 #

1. 先转张量再设形状 #

在map函数里，先把numpy数组转成TensorFlow张量，再对每个张量调用set_shape()指定对应形状：

• x_img1的形状：如果是通道在后格式，设为(1024, 1024, 10)；如果是通道在前（比如10个通道放在最前面），则设为(10, 1024, 1024)
• x_img2的形状：直接设为(32, 64)

完整可运行代码示例 #

import tensorflow as tf
import numpy as np

# 模拟你的数据集：100个样本，x_img1是10通道1024×1024，x_img2是32×64
x_img1_data = np.random.rand(100, 1024, 1024, 10)
x_img2_data = np.random.rand(100, 32, 64)
y_data = np.random.randint(0, 2, size=(100,))

def preprocess(img1, img2, label):
    # 把numpy数组转成TensorFlow张量
    img1_tensor = tf.convert_to_tensor(img1, dtype=tf.float32)
    img2_tensor = tf.convert_to_tensor(img2, dtype=tf.float32)
    label_tensor = tf.convert_to_tensor(label, dtype=tf.int32)
    
    # 分别设置每个张量的形状
    img1_tensor.set_shape((1024, 1024, 10))
    img2_tensor.set_shape((32, 64))
    label_tensor.set_shape(())  # 单标签的标量形状
    
    return (img1_tensor, img2_tensor), label_tensor

# 创建并处理Dataset
dataset = tf.data.Dataset.from_tensor_slices((x_img1_data, x_img2_data, y_data))
dataset = dataset.map(preprocess, num_parallel_calls=tf.data.AUTOTUNE)

# 验证形状是否正确
for (img1, img2), label in dataset.take(1):
    print("x_img1形状:", img1.shape)
    print("x_img2形状:", img2.shape)
    print("标签形状:", label.shape)

额外注意点 #

• 确认你的图像维度顺序：TensorFlow默认用(高度, 宽度, 通道数)，如果你的数据是通道在前格式，要对应修改set_shape的参数
• 加入num_parallel_calls=tf.data.AUTOTUNE可以自动利用多核加速数据预处理，提升加载效率
• 如果数据集很大，建议转成TFRecord格式存储后再加载，避免numpy数组占用过多内存

内容的提问来源于stack exchange，提问作者Maifee Ul Asad