预训练ResNet18识别受损房屋：不缩放800x800图像的实现咨询

这种方案是否常见？ #

在预训练模型前添加适配层处理大尺寸输入是非常主流的迁移学习方案，完全符合你的需求场景——既不想缩放图像丢失细节，又想复用预训练模型的通用特征提取能力。相比从头构建模型，这种方案的效率和效果优势明显。

为什么不推荐从头训练模型？ #

• 从头训练ResNet18需要海量标注数据，你的受损房屋数据集规模大概率达不到要求，很容易出现过拟合。
• Places365预训练的ResNet18已经学到了图像通用特征（比如边缘、纹理、局部形状），这些特征对识别油漆剥落、瓦片松动等房屋损坏细节有直接帮助，迁移学习能复用这些已有的知识，训练速度更快、泛化性更强。

如何实现前置适配层？ #

核心思路是通过卷积+池化组合，将800×800的输入逐步压缩到和原ResNet18主干输入匹配的特征图尺寸（原ResNet18经过初始卷积池化后输出64×56×56的特征图，我们需要让前置层输出同样规格的特征，再接入原模型的layer1及之后的部分）。

修改后的完整PyTorch代码如下：

import torch
from torch import nn
from torchvision import models

class NewModel(nn.Module):  # 注意这里是nn.Module，原代码写错为nn.Model
    def __init__(self, pretrain_model_path) -> None:
        super().__init__()
        
        # 前置适配层：将800×800输入转换为64×56×56的特征图，匹配ResNet主干输入
        self.pre_layers = nn.Sequential(
            # 第一步：800×800 → 400×400，通道3→32
            nn.Conv2d(3, 32, kernel_size=7, stride=2, padding=3, bias=False),
            nn.BatchNorm2d(32),
            nn.ReLU(inplace=True),
            nn.MaxPool2d(kernel_size=3, stride=2, padding=1),
            
            # 第二步：400×400 → 100×100，通道32→64
            nn.Conv2d(32, 64, kernel_size=7, stride=2, padding=3, bias=False),
            nn.BatchNorm2d(64),
            nn.ReLU(inplace=True),
            nn.MaxPool2d(kernel_size=3, stride=2, padding=1),
            
            # 微调尺寸到56×56，保持通道数64
            nn.Conv2d(64, 64, kernel_size=3, stride=1, padding=3),
            nn.BatchNorm2d(64),
            nn.ReLU(inplace=True)
        )
        
        # 加载预训练ResNet18，剥离初始卷积池化层，保留主干特征提取部分
        model = models.resnet18(num_classes=365)
        checkpoint = torch.load(pretrain_model_path, map_location=lambda storage, loc: storage)
        state_dict = {k.replace('module.', ''): v for k, v in checkpoint['state_dict'].items()}
        model.load_state_dict(state_dict)
        
        # 提取原模型的layer1到avgpool作为主干
        self.backbone = nn.Sequential(
            model.layer1,
            model.layer2,
            model.layer3,
            model.layer4,
            model.avgpool
        )
        
        # 替换全连接层，适配4类房屋损坏分类
        self.fc = nn.Linear(model.fc.in_features, 4)

    def forward(self, x):
        # 输入尺寸：[batch, 3, 800, 800]
        x = self.pre_layers(x)  # 输出：[batch, 64, 56, 56]
        x = self.backbone(x)    # 输出：[batch, 512, 1, 1]
        x = torch.flatten(x, 1)
        x = self.fc(x)          # 输出：[batch, 4]
        return x

训练时的关键注意点 #

1. 分步训练：先固定backbone的权重，只训练pre_layers和fc层，让前置层学习将大尺寸输入映射到预训练模型的特征空间，避免破坏已有的预训练特征。
2. 微调阶段：几轮训练后，解冻backbone，用极小的学习率（比如1e-5）进行整体微调，进一步适配房屋损坏的特定特征。
3. 初始化：前置层的卷积层建议用Kaiming初始化，保证训练稳定性。

内容的提问来源于stack exchange，提问作者Cole Tritch