PyTorch DataLoader迭代报错：default_collate检测到object类型数据

错误原因 #

触发这个TypeError的核心原因是DataLoader默认的default_collate函数无法将你的样本正确打包成batch，常见场景包括：

• 样本形状不统一：虽然每个样本返回的是numpy数组，但不同样本的数组/矩阵形状不一致（比如有的是(28,28)，有的是(32,32)），default_collate无法将它们拼接成一个统一形状的张量，只能将其标记为object类型，进而触发错误。
• numpy数组的dtype为object：你的numpy数组表面是numpy.ndarray类型，但内部存储的是object对象（比如嵌套的非数值类型），而非标准数值类型（如float32、int64），default_collate无法识别这种类型。
• 数据集返回的元素存在嵌套异常：比如某个样本返回的元素不是单纯的numpy数组，而是包含其他非允许类型的嵌套结构。

解决方法 #

1. 统一所有样本的形状 #

检查数据集中每个样本的矩阵和数组形状，确保完全一致。比如如果是图像数据，统一裁剪或padding到相同尺寸；如果是序列数据，统一长度。

2. 检查并修正numpy数组的dtype #

执行以下代码查看返回元素的 dtype：

# 查看第一个样本的两个元素的dtype
print(train_ds.__getitem__(0)[0].dtype)
print(train_ds.__getitem__(0)[1].dtype)

如果输出是object，需要将数据转换为数值类型，例如在数据集的__getitem__方法中处理：

def __getitem__(self, idx):
    mat = np.asarray(self.data[idx][0], dtype=np.float32)
    arr = np.asarray(self.data[idx][1], dtype=np.int64)
    return mat, arr

3. 自定义collate_fn处理可变形状样本 #

如果确实需要保留可变形状的样本，可以自定义collate_fn来替代默认的打包逻辑，比如将每个batch的元素打包成列表：

def custom_collate(batch):
    # batch是一个列表，每个元素是样本的(矩阵, 数组)元组
    mats = [item[0] for item in batch]
    arrs = [item[1] for item in batch]
    return mats, arrs

# 创建DataLoader时指定collate_fn
train_dl = torch.utils.data.DataLoader(train_ds, batch_size=8, shuffle=True, collate_fn=custom_collate)

如果需要对可变形状的样本做padding（比如序列数据），也可以在custom_collate中实现对应的padding逻辑，将batch处理成统一形状的张量。

内容的提问来源于stack exchange，提问作者Rocket