PyTorch模型输入样本尺寸适配问题咨询

我是PyTorch与AI领域新手，使用RadioML2016.10a数据集（输入为2×128的IQ数据）训练AWN模型后，验证及测试结果良好。现希望用RadioML2018.01a数据集（输入尺寸为2×1024）测试该模型，同时也想了解反向场景的解决方案，具体问题如下：

疑问解答 #

1. PyTorch是否支持以下两种输入处理方式？ #

• a) 将单份2×1024输入拆分为8份2×128输入并重复标签8次
  完全支持。可以通过PyTorch的张量操作实现：

  • 输入拆分：对形状为[batch_size, 2, 1024]的输入张量x，使用torch.chunk(x, chunks=8, dim=2)拆分得到8个[batch_size, 2, 128]的张量，再用torch.cat()拼接为[batch_size*8, 2, 128]的输入。
  • 标签重复：对形状为[batch_size]的标签张量y，使用y.repeat_interleave(8)或y.repeat(8).reshape(-1)实现每个标签重复8次，最终得到[batch_size*8]的标签张量。

• b) 仅截取输入的前128个数据
  直接通过张量切片即可实现，代码示例：

# x为输入张量，形状[batch_size, 2, 1024]
processed_x = x[:, :, :128]  # 处理后形状为[batch_size, 2, 128]

2. 是否需要在推理前自行按假设a的方式预处理数据集？ #

两种方案均可，按需选择：

• 离线预处理：如果数据集规模不大，可提前将2×1024样本拆分为8份2×128样本并保存，推理时直接加载处理后的数据集，减少实时计算开销。
• 实时处理：在PyTorch的Dataset子类中添加动态处理逻辑，加载样本时即时拆分或截取，避免占用额外存储空间，适合大规模数据集场景。

反向场景解决方案：用2×1024样本训练的模型适配2×128推理输入 #

根据模型结构不同，可选择以下几种适配方式：

• 补零填充：将2×128输入的末尾补零至2×1024的形状后输入模型。这种方式简单，但补零可能引入无效信息，适合模型对输入长度敏感度较低的场景。
• 重复扩展：将2×128输入重复8次拼接为2×1024的输入，模拟长序列特征。
• 模型适配修改：
  • 若模型包含基于固定长度设计的池化层，可替换为自适应池化层（如nn.AdaptiveAvgPool1d、nn.AdaptiveMaxPool1d），让模型自动适配不同长度的输入特征。
  • 若全连接层输入维度与1024长度绑定，可调整全连接层的输入维度，并基于少量2×128样本微调模型，保证适配效果。
• 滑动窗口集成：将2×128输入视为长序列的一个窗口，多次推理后取分类概率的平均值作为最终结果，适合模型原本基于滑动窗口设计的场景。

内容的提问来源于stack exchange，提问作者AlexDtd