PyTorch二分类使用BCELoss报元素数不匹配及输出维度异常问题排查

你把PyTorch二分类的两种实现范式完全混用了，这也是新手写神经网络最容易踩的坑：

• 第一种范式是双输出头+交叉熵损失：最后一层输出维度设为2，对应两个类别的得分，要求标签是单维度的类别索引（long类型），损失用nn.CrossEntropyLoss，模型输出形状自然是[batch_size, 2]
• 第二种范式是单输出头+Sigmoid+BCELoss：最后一层输出维度设为1，输出单样本属于正类的概率值，要求标签是和输出同形状的float类型，损失用二分类交叉熵，输出形状就是你预期的[batch_size, 1]

你现在的代码属于典型的混搭错位：

1. 输出层用了self.fc3 = nn.Linear(100 , num_classes)，输出维度是2，对应batch_size=2时总输出元素数是4
2. 标签是shape为[batch_size]的long类型，总元素数是2，刚好触发“目标张量和输入张量元素数不相等”的校验报错
3. 还在最后一层手动加了Sigmoid激活，不管配哪种损失都不对味：配BCELoss形状不匹配，配CrossEntropyLoss的话Sigmoid会破坏Softmax要求的概率分布逻辑

方案1：匹配你预期的2x1输出形状需求 #

走“单输出头+BCE损失”路线，改3处即可：

1. 修改模型最后一层的输出维度，从2改成1：

   # 原代码
   # self.fc3 = nn.Linear(100 , num_classes)
   # 修改后
   self.fc3 = nn.Linear(100 , 1)
   

2. 修改标签的数据类型和形状，适配BCELoss的输入要求：

   # 原代码
   # y = torch.tensor([1,0,1,1]).long()
   # 修改后
   y = torch.tensor([1,0,1,1]).float().reshape(-1, 1)
   

3. 替换损失函数为数值计算更稳定的nn.BCEWithLogitsLoss，同时把forward里最后一层的Sigmoid去掉（损失函数内部已经集成了Sigmoid计算，不需要手动添加）：

   # 原代码
   # criterionCE = nn.BCELoss()
   # 修改后
   criterionCE = nn.BCEWithLogitsLoss()
   
   # forward函数修改为
   def forward(self, x) : 
       out = self.fc1(x)
       out = self.sigmoid(out)
       out = self.fc2(out)
       out = self.sigmoid(out)
       out = self.fc3(out)
       return out
   

   按这个修改后，batch_size=2时模型输出就是2行1列的形状，完全符合预期。

方案2：兼容多分类的双输出路线 #

保留当前2维的输出头，调整损失和激活函数即可：

1. 把forward最后一层的Sigmoid删掉，因为交叉熵损失内部会自动计算Softmax概率，手动加Sigmoid会导致概率分布异常
2. 损失函数从BCELoss换成nn.CrossEntropyLoss()，这个损失函数本来就适配long类型的类别标签，自动匹配[batch_size, 2]的模型输出和[batch_size]的标签形状，不会触发元素数不匹配的报错
3. 原代码最后用来取预测类别的outputs.data.max(1)[1]逻辑完全正确，不需要修改

• 两处重复导入torch.nn模块，不影响运行但属于冗余代码
• 循环变量命名冲突：最外层for i in range(0 , 140)的循环变量i，和内层for i,(images , labels) in enumerate(train_loader)的循环变量i重名，会覆盖外层的循环值，导致外层循环逻辑错乱
• 权重初始化用normal_(0.0, 1)的标准差太大，很容易导致Sigmoid激活进入饱和区，出现梯度消失的问题，一般初始化时把标准差设为0.01左右更稳妥

内容的提问来源于stack exchange，提问作者blue-sky