You need to enable JavaScript to run this app. PyTorch Torchvision微调流程中如何对接自定义预处理的DICOM数据
优惠活动
大模型
产品
解决方案
定价
更多

PyTorch Torchvision微调流程中如何对接自定义预处理的DICOM数据

核心问题解答

1. 你尝试的ImageFolder传参写法完全不可行

  • datasets.ImageFolder的第一个入参要求是存放类别子目录的根目录路径字符串,内部会通过目录扫描自动建立「文件路径-类别标签」的映射关系,直接传入预处理后的numpy数组会触发类型不匹配错误,根本无法完成目录扫描流程。
  • 现有Preproc1函数存在两个本质缺陷:
    • 全量加载时完全丢失了子目录携带的类别标签信息,输出的3维numpy数组无法和CANCER/NOCANCER的标签一一对应
    • 一次性将所有DICOM文件读入内存构建大数组,面对稍大的医学影像数据集时极易触发内存溢出

2. 自定义预处理流程和transforms.Normalize不存在重复执行问题

  • 你在自定义逻辑里实现的操作:是单张图像层面的处理——针对单张图做像素值标准化(减单图均值、除单图标准差)、再线性拉伸到[0,1]范围,作用是消除不同扫描设备、拍摄参数带来的单图对比度差异。
  • 教程里推荐的transforms.Normalize是数据集全局层面的通道级标准化,使用ImageNet全量数据集统计的三通道均值、标准差对张量做变换,目的是让输入分布完全匹配预训练骨干网的预训练输入要求。
  • 两者的计算维度、作用目标完全不同,不存在重复。只要你使用Torchvision提供的ImageNet预训练模型,就必须保留这一步的Normalize操作,否则输入分布和预训练分布偏差过大,会大幅降低微调的收敛速度与最终精度。

可直接落地的实现方案

不需要改动你已有的DICOM读取、单图预处理逻辑,只需要自定义适配DICOM格式的Dataset类,完全对齐原教程的代码结构即可:

  1. 自定义类复用ImageFolder的目录扫描规则,自动绑定子目录对应的标签
  2. 在初始化阶段一次性扫描所有文件,计算全数据集的最小宽高(复用你原来的尺寸计算逻辑)
  3. 单张图读取时执行你已写好的预处理流程,再接入原教程的transform pipeline

示例代码:

from torch.utils.data import Dataset
import pydicom
import cv2
import numpy as np
import os

class DICOMImageFolder(Dataset):
    def __init__(self, root_dir, transform=None):
        self.root_dir = root_dir
        self.transform = transform
        # 扫描目录建立(文件路径, 标签)映射,和ImageFolder逻辑完全对齐
        self.samples = self._scan_category_dirs()
        # 计算全数据集最小图像尺寸
        self.min_h, self.min_w = self._calc_min_image_size()

    def _scan_category_dirs(self):
        # 按子目录为类别的规则扫描,自动排序生成类别索引
        class_names = sorted([d.name for d in os.scandir(self.root_dir) if d.is_dir()])
        class_idx_map = {cls_name: idx for idx, cls_name in enumerate(class_names)}
        sample_list = []
        for cls_name in class_names:
            cls_dir = os.path.join(self.root_dir, cls_name)
            for root, _, filenames in os.walk(cls_dir):
                for fname in filenames:
                    if fname.lower().endswith(".dcm"):
                        file_path = os.path.join(root, fname)
                        sample_list.append((file_path, class_idx_map[cls_name]))
        return sample_list

    def _calc_min_image_size(self):
        min_h, min_w = float("inf"), float("inf")
        for file_path, _ in self.samples:
            ds = pydicom.read_file(file_path)
            h, w = ds.pixel_array.shape
            min_h = min(min_h, h)
            min_w = min(min_w, w)
        return int(min_h), int(min_w)

    def __len__(self):
        return len(self.samples)

    def __getitem__(self, idx):
        img_path, label = self.samples[idx]
        # 复用你已有的单图预处理逻辑
        ds = pydicom.read_file(img_path)
        img_array = ds.pixel_array.astype(np.float32)
        # 单图标准化
        img_stand = (img_array - img_array.mean(axis=(0,1), keepdims=True)) / img_array.std(axis=(0,1), keepdims=True)
        # 单图归一化到0-1范围
        img_norm = cv2.normalize(img_stand, None, 0, 1, cv2.NORM_MINMAX)
        # 统一resize到全数据集最小尺寸
        img_resized = cv2.resize(img_norm, (self.min_w, self.min_h), interpolation=cv2.INTER_CUBIC)
        # 单通道转3通道,匹配预训练模型的输入要求
        img_rgb = np.repeat(img_resized[..., np.newaxis], 3, axis=-1)
        # 应用原教程定义的transforms
        if self.transform:
            img_tensor = self.transform(img_rgb)
        return img_tensor, label

替换原教程中数据加载的代码,其余部分完全不需要改动:

# 替换原ImageFolder调用
image_datasets = {
    x: DICOMImageFolder(
        root_dir=os.path.join(data_dir, x),
        transform=data_transforms[x]
    ) 
    for x in ['train', 'val']
}
# 原教程的DataLoader代码保持不变
dataloaders_dict = {x: torch.utils.data.DataLoader(image_datasets[x], batch_size=batch_size, shuffle=True, num_workers=4) for x in ['train', 'val']}

现有预处理代码的待优化点
  • 原Preproc1中ArrayDCM[listDCM.index(filenameDCM), :, :] = ...存在逻辑bug:如果不同目录下存在同名DICOM文件,list.index()只会返回第一个匹配元素的索引,会导致图像和标签错位
  • 全量预加载所有图像的方式内存占用高,无法利用DataLoader的多进程加载优势,替换为按索引读取单图的自定义Dataset后,内存占用会从“整个数据集大小”降到“单批batch大小”的水平

内容的提问来源于stack exchange,提问作者BubuSettete

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.11.02 01:54:06