PyTorch中带集成偏置的卷积转全连接及Toeplitz矩阵加偏置

一、核心逻辑：从Y=A*X到Y=A*X+B #

卷积转全连接的本质是将卷积运算转化为输入向量与Toeplitz矩阵的乘法。要添加偏置，无非两种思路：直接在矩阵乘法结果后叠加偏置，或是把偏置整合到矩阵运算中。

二、直接给输出叠加偏置（简单直观） #

如果已经能生成Toeplitz矩阵A，只需在矩阵乘法后加上维度匹配的偏置张量B即可：

import torch

# 假设A是Toeplitz矩阵，形状为(out_features, in_features)
# X是展平后的输入张量，形状为(batch_size, in_features)
# B是偏置张量，形状为(out_features,)
output = X @ A.T + B  # 维度根据实际情况调整转置方向

注意：卷积层的偏置是每个输出通道对应一个值，所以B的长度必须等于卷积的输出通道数（即全连接层的输出特征数）。

三、把偏置整合到Toeplitz矩阵中（扩展矩阵法） #

若想将偏置完全融入矩阵乘法（变为Y = [A | B] @ [X; 1]形式），可以扩展矩阵和输入向量：

# 扩展Toeplitz矩阵：在A右侧新增一列偏置B
A_extended = torch.cat([A, B.unsqueeze(1)], dim=1)
# 扩展输入向量：每个样本末尾拼接一个常数1
X_extended = torch.cat([X, torch.ones(X.shape[0], 1, device=X.device)], dim=1)
# 此时矩阵乘法结果等价于原Y = A@X + B
output = X_extended @ A_extended.T

这种方式适合需要纯矩阵运算的场景，但会略微增加计算量，需注意维度严格对齐。

四、从现有卷积层直接转带偏置的全连接层 #

如果是从已定义的带偏置卷积层转全连接，无需手动生成Toeplitz矩阵，直接复用卷积的参数即可：

import torch.nn as nn

# 示例：带偏置的2D卷积层
conv_layer = nn.Conv2d(in_channels=3, out_channels=16, kernel_size=3, padding=1, bias=True)

# 将卷积核展平为全连接层权重：(out_channels, in_channels*kernel_size*kernel_size)
fc_weight = conv_layer.weight.view(conv_layer.out_channels, -1)
# 直接复用卷积层的偏置
fc_bias = conv_layer.bias

# 创建带偏置的全连接层并赋值参数
fc_layer = nn.Linear(in_features=3*3*3, out_features=16, bias=True)
fc_layer.weight.data = fc_weight
fc_layer.bias.data = fc_bias

该全连接层对展平后的输入计算结果，与原卷积层的输出完全一致。

关键注意事项 #

• 维度对齐：偏置B的长度必须与Toeplitz矩阵的行数（全连接输出维度）一致。
• 设备一致性：确保A、X、B在同一设备（CPU/GPU）上，避免运行报错。
• 梯度传递：以上两种方式都能正常触发PyTorch自动微分，反向传播不受影响。

内容的提问来源于stack exchange，提问作者j35t3r