PyTorch Torchvision微调流程中如何对接自定义预处理的DICOM数据
核心问题解答
1. 你尝试的ImageFolder传参写法完全不可行
datasets.ImageFolder的第一个入参要求是存放类别子目录的根目录路径字符串,内部会通过目录扫描自动建立「文件路径-类别标签」的映射关系,直接传入预处理后的numpy数组会触发类型不匹配错误,根本无法完成目录扫描流程。- 现有
Preproc1函数存在两个本质缺陷:- 全量加载时完全丢失了子目录携带的类别标签信息,输出的3维numpy数组无法和CANCER/NOCANCER的标签一一对应
- 一次性将所有DICOM文件读入内存构建大数组,面对稍大的医学影像数据集时极易触发内存溢出
2. 自定义预处理流程和transforms.Normalize不存在重复执行问题
- 你在自定义逻辑里实现的操作:是单张图像层面的处理——针对单张图做像素值标准化(减单图均值、除单图标准差)、再线性拉伸到[0,1]范围,作用是消除不同扫描设备、拍摄参数带来的单图对比度差异。
- 教程里推荐的
transforms.Normalize是数据集全局层面的通道级标准化,使用ImageNet全量数据集统计的三通道均值、标准差对张量做变换,目的是让输入分布完全匹配预训练骨干网的预训练输入要求。 - 两者的计算维度、作用目标完全不同,不存在重复。只要你使用Torchvision提供的ImageNet预训练模型,就必须保留这一步的Normalize操作,否则输入分布和预训练分布偏差过大,会大幅降低微调的收敛速度与最终精度。
可直接落地的实现方案
不需要改动你已有的DICOM读取、单图预处理逻辑,只需要自定义适配DICOM格式的Dataset类,完全对齐原教程的代码结构即可:
- 自定义类复用
ImageFolder的目录扫描规则,自动绑定子目录对应的标签 - 在初始化阶段一次性扫描所有文件,计算全数据集的最小宽高(复用你原来的尺寸计算逻辑)
- 单张图读取时执行你已写好的预处理流程,再接入原教程的transform pipeline
示例代码:
from torch.utils.data import Dataset import pydicom import cv2 import numpy as np import os class DICOMImageFolder(Dataset): def __init__(self, root_dir, transform=None): self.root_dir = root_dir self.transform = transform # 扫描目录建立(文件路径, 标签)映射,和ImageFolder逻辑完全对齐 self.samples = self._scan_category_dirs() # 计算全数据集最小图像尺寸 self.min_h, self.min_w = self._calc_min_image_size() def _scan_category_dirs(self): # 按子目录为类别的规则扫描,自动排序生成类别索引 class_names = sorted([d.name for d in os.scandir(self.root_dir) if d.is_dir()]) class_idx_map = {cls_name: idx for idx, cls_name in enumerate(class_names)} sample_list = [] for cls_name in class_names: cls_dir = os.path.join(self.root_dir, cls_name) for root, _, filenames in os.walk(cls_dir): for fname in filenames: if fname.lower().endswith(".dcm"): file_path = os.path.join(root, fname) sample_list.append((file_path, class_idx_map[cls_name])) return sample_list def _calc_min_image_size(self): min_h, min_w = float("inf"), float("inf") for file_path, _ in self.samples: ds = pydicom.read_file(file_path) h, w = ds.pixel_array.shape min_h = min(min_h, h) min_w = min(min_w, w) return int(min_h), int(min_w) def __len__(self): return len(self.samples) def __getitem__(self, idx): img_path, label = self.samples[idx] # 复用你已有的单图预处理逻辑 ds = pydicom.read_file(img_path) img_array = ds.pixel_array.astype(np.float32) # 单图标准化 img_stand = (img_array - img_array.mean(axis=(0,1), keepdims=True)) / img_array.std(axis=(0,1), keepdims=True) # 单图归一化到0-1范围 img_norm = cv2.normalize(img_stand, None, 0, 1, cv2.NORM_MINMAX) # 统一resize到全数据集最小尺寸 img_resized = cv2.resize(img_norm, (self.min_w, self.min_h), interpolation=cv2.INTER_CUBIC) # 单通道转3通道,匹配预训练模型的输入要求 img_rgb = np.repeat(img_resized[..., np.newaxis], 3, axis=-1) # 应用原教程定义的transforms if self.transform: img_tensor = self.transform(img_rgb) return img_tensor, label
替换原教程中数据加载的代码,其余部分完全不需要改动:
# 替换原ImageFolder调用 image_datasets = { x: DICOMImageFolder( root_dir=os.path.join(data_dir, x), transform=data_transforms[x] ) for x in ['train', 'val'] } # 原教程的DataLoader代码保持不变 dataloaders_dict = {x: torch.utils.data.DataLoader(image_datasets[x], batch_size=batch_size, shuffle=True, num_workers=4) for x in ['train', 'val']}
现有预处理代码的待优化点
- 原
Preproc1中ArrayDCM[listDCM.index(filenameDCM), :, :] = ...存在逻辑bug:如果不同目录下存在同名DICOM文件,list.index()只会返回第一个匹配元素的索引,会导致图像和标签错位 - 全量预加载所有图像的方式内存占用高,无法利用DataLoader的多进程加载优势,替换为按索引读取单图的自定义Dataset后,内存占用会从“整个数据集大小”降到“单批batch大小”的水平
内容的提问来源于stack exchange,提问作者BubuSettete
相关产品推荐
相关产品推荐

