PyTorch自定义Dataset构建DataLoader时ValueError报错如何解决

问题原因 #

• 错误的核心触发点是DataLoader拼接一个batch的数据为张量时，发现某个字段存在非标量/维度不一致的情况，大概率出在标签字段，小概率出在图像字段：
  1. 你的trainlist中部分样本的标签t不是单值类型，比如是长度大于1的列表、嵌套数组、空值或者字符串，执行t = torch.tensor(t)后得到的是多元素张量，DataLoader默认的拼接逻辑无法处理这类数据，就会抛出该错误。
  2. 之前小数据集运行正常，是因为小范围内的样本刚好没有异常标签，大数据集样本量更大，混入了格式不符合预期的标签样本。
  3. 若标签无问题，则需要检查transform输出的图像张量是否维度统一，比如存在部分图像转成了单通道、图像尺寸不一致的情况，也会触发同类报错。

解决方法 #

步骤1：排查异常标签样本 #

在构造trainlist之后先执行校验代码，定位坏样本：

bad_indexes = []
for idx, (s1_path, s2_path, label) in enumerate(trainlist):
    try:
        test_tensor = torch.tensor(label)
        if test_tensor.numel() != 1:
            bad_indexes.append((idx, f"标签为多值：{label}"))
    except:
        bad_indexes.append((idx, f"标签无法转张量：{label}"))
print(f"共找到{len(bad_indexes)}个异常样本:", bad_indexes)

定位到异常样本后，要么修正对应标签，要么直接从trainlist中删除这些样本。

步骤2：优化标签转换逻辑 #

如果你的标签本身是单值分类标签，可以在__getitem__中强制转换为标量，避免格式问题：

# 替换原来的t = torch.tensor(t)
t = torch.tensor(t, dtype=torch.long).squeeze()

如果是多值标签（比如多标签分类的onehot编码），则需要在构造DataLoader时自定义collate_fn处理多值标签的拼接逻辑。

步骤3：排查图像维度问题 #

如果排除标签问题后仍然报错，可以将DataLoader的num_workers参数改为0关闭多进程加载，报错时会直接定位到异常样本的索引，检查该样本经过transform后的输出维度是否和其他样本一致，统一transform的输出尺寸即可。

内容的提问来源于stack exchange，提问作者Khabbab Zakaria