如何在PyTorch中为形状(10,3,4,6)的张量实现逐通道1D与2D卷积

针对形状为(10, 3, 4, 6)的输入张量（10是批量大小，3和4是空间维度，6是通道数），要实现每个通道独立使用专属权重和偏置的卷积操作，核心思路是利用PyTorch的分组卷积特性，或通过维度变换适配卷积层输入格式，以下是具体实现：

一、统一张量格式 #

PyTorch卷积层默认输入格式为(batch_size, channels, height, width)，而你的输入是(batch, H, W, C)，第一步先转置维度适配：

import torch
import torch.nn as nn

# 构造输入张量
x = torch.randn(10, 3, 4, 6)  # (batch=10, H=3, W=4, C=6)
x = x.permute(0, 3, 1, 2)     # 转置为(batch=10, C=6, H=3, W=4)，符合PyTorch卷积输入规范

二、逐通道2D卷积实现 #

逐通道2D卷积要求每个输入通道用独立卷积核运算，输出对应通道特征。PyTorch的nn.Conv2d通过groups参数即可实现：当groups等于输入通道数时，每个输入通道会分配独立的卷积核组，正好满足需求。

# 定义逐通道2D卷积层：每个通道用3x3卷积核，输出通道数与输入一致
conv2d_per_channel = nn.Conv2d(
    in_channels=6,
    out_channels=6,
    kernel_size=(3, 3),
    padding=1,  # 保持空间维度不变
    groups=6    # 分组数=通道数，实现逐通道独立卷积
)

# 执行卷积
out2d = conv2d_per_channel(x)
print(out2d.shape)  # 输出: torch.Size([10, 6, 3, 4])

原理说明 #

• 权重形状为(6, 1, 3, 3)：每个输出通道对应一个1x3x3的卷积核，仅作用于对应的单个输入通道
• 偏置形状为(6)：每个通道对应一个独立的偏置值

三、逐通道1D卷积实现 #

1D卷积需指定目标空间维度（如针对H=3或W=4维度），以下分两种场景示例：

场景1：对W维度（长度4）做1D卷积 #

将H维度合并到批量中，适配1D卷积的(batch, channels, seq_len)格式：

# 调整维度：(10,6,3,4) -> (10*3,6,4)，seq_len=4
x_1d_w = x.reshape(-1, 6, 4)

# 定义逐通道1D卷积层：每个通道用kernel_size=2的卷积核
conv1d_per_channel_w = nn.Conv1d(
    in_channels=6,
    out_channels=6,
    kernel_size=2,
    padding=1,
    groups=6  # 分组数=通道数，实现逐通道独立卷积
)

out1d_w = conv1d_per_channel_w(x_1d_w)
# 恢复原维度：(10*3,6,4) -> (10,6,3,4)
out1d_w = out1d_w.reshape(10, 6, 3, 4)
print(out1d_w.shape)  # 输出: torch.Size([10, 6, 3, 4])

场景2：对H维度（长度3）做1D卷积 #

同理，将W维度合并到批量中，调整维度后执行卷积：

# 调整维度：(10,6,3,4) -> (10*4,6,3)，seq_len=3
x_1d_h = x.permute(0,2,3,1).reshape(-1,6,3)

conv1d_per_channel_h = nn.Conv1d(
    in_channels=6,
    out_channels=6,
    kernel_size=2,
    padding=1,
    groups=6
)

out1d_h = conv1d_per_channel_h(x_1d_h)
# 恢复原维度：(10*4,6,3) -> (10,6,3,4)
out1d_h = out1d_h.reshape(10,4,6,3).permute(0,2,3,1)
print(out1d_h.shape)  # 输出: torch.Size([10, 6, 3, 4])

原理说明 #

• 1D卷积的groups=6同样让每个通道使用独立卷积核，权重形状为(6,1,2)，偏置形状为(6)
• 通过维度变换将非卷积维度合并到批量，处理完成后再恢复原结构

内容的提问来源于stack exchange，提问作者Shanaka Ramesh