如何将含尺寸不一致图像的NumPy数组加载为TensorFlow可处理格式？

我来帮你解决这个问题——你遇到的核心问题是嵌套的NumPy数组（以及后来生成的EagerTensor对象数组）没法直接被TensorFlow的from_tensor_slices处理，因为这个API要求输入是规整的、形状统一的张量/数组，而不是存储着不同对象的数组。下面给你两个可行的解决方案：

方案一：用生成器构建数据集（最推荐） #

tf.data.Dataset.from_generator可以处理非规整的输入，它会逐个读取生成器返回的样本，我们可以在生成器里完成图像的预处理和形状统一：

import tensorflow as tf
import pandas as pd

# 先定义你的预处理层（根据你的需求调整IMG_SIZE）
IMG_SIZE = 224
resize_and_rescale = tf.keras.Sequential([
    tf.keras.layers.experimental.preprocessing.Resizing(IMG_SIZE, IMG_SIZE),
    tf.keras.layers.experimental.preprocessing.Rescaling(1./255)
])

def data_generator(df):
    # 遍历DataFrame的每一行
    for _, row in df.iterrows():
        # 获取原始的可变尺寸图像数组
        raw_img = row['image']
        # 把NumPy数组转成Tensor，再做预处理
        img_tensor = tf.convert_to_tensor(raw_img, dtype=tf.uint8)
        processed_img = resize_and_rescale(img_tensor)
        # 返回处理好的图像和对应标签
        yield processed_img, row['label']

# 创建数据集，指定输出的张量形状和类型（标签类型根据你的实际情况调整）
train_dataset = tf.data.Dataset.from_generator(
    lambda: data_generator(train_df),
    output_signature=(
        tf.TensorSpec(shape=(IMG_SIZE, IMG_SIZE, 3), dtype=tf.float32),
        tf.TensorSpec(shape=(), dtype=tf.int32)  # 如果是分类标签，整数类型很常用
    )
)

# 后续可以加打乱、批处理、预取等优化操作
train_dataset = train_dataset.shuffle(buffer_size=100).batch(32).prefetch(tf.data.AUTOTUNE)

这个方法的优势是不需要提前把所有图像都处理完占内存，生成器会按需处理样本，而且完全避开了pandas存储Tensor的兼容性问题。

方案二：用tf.py_function在数据集里做预处理 #

如果你想先基于原始数据创建数据集，再批量处理，可以用tf.py_function包装预处理逻辑，处理嵌套的NumPy数组：

# 先创建包含原始图像对象数组和标签的数据集
raw_dataset = tf.data.Dataset.from_tensor_slices((train_df['image'].values, train_df['label'].values))

def preprocess_single_sample(img_array, label):
    # 把NumPy数组转成Tensor
    img_tensor = tf.convert_to_tensor(img_array, dtype=tf.uint8)
    # 应用预处理
    processed_img = resize_and_rescale(img_tensor)
    return processed_img, label

# 用tf.py_function包装预处理函数，指定输出类型
train_dataset = raw_dataset.map(
    lambda x, y: tf.py_function(
        func=preprocess_single_sample,
        inp=[x, y],
        Tout=[tf.float32, tf.int32]  # 对应预处理后图像和标签的类型
    )
)

# 因为tf.py_function会丢失形状信息，需要手动恢复
train_dataset = train_dataset.map(
    lambda x, y: (tf.ensure_shape(x, (IMG_SIZE, IMG_SIZE, 3)), tf.ensure_shape(y, ()))
)

# 同样加上优化操作
train_dataset = train_dataset.shuffle(100).batch(32).prefetch(tf.data.AUTOTUNE)

几个关键注意点 #

• 不要再用pandas的apply把EagerTensor存在DataFrame里——DataFrame对Tensor的支持很差，存储后会变成对象数组，TensorFlow根本没法识别。
• 如果你的标签是字符串类型（比如分类名称），需要先转成整数编码（可以用sklearn.preprocessing.LabelEncoder），再传入数据集，或者在生成器里用tf.one_hot转换成独热编码。
• 预处理层也可以直接加到模型里（比如放在模型的第一层），但提前在数据集里做预处理会更高效，因为可以利用TensorFlow的并行处理能力。

内容的提问来源于stack exchange，提问作者jakkolau