PyTorch CNN训练前评估失败及验证准确率异常求助

PyTorch中未训练的模型参数是随机初始化的，完全可以评估验证集指标，问题大概率出在评估逻辑的实现上。你可以按以下步骤实现初始评估：

• 确保验证集通过DataLoader正确加载，数据格式符合模型输入要求
• 编写独立的评估函数，示例代码：

def evaluate(model, val_loader, criterion, device):
    model.eval()  # 切换到评估模式，关闭dropout、batchnorm等训练层
    total_loss = 0.0
    correct = 0
    total_samples = 0
    with torch.no_grad():  # 关闭梯度计算，节省内存和计算资源
        for inputs, labels in val_loader:
            inputs, labels = inputs.to(device), labels.to(device)
            outputs = model(inputs)
            # 计算损失
            loss = criterion(outputs, labels)
            total_loss += loss.item() * inputs.size(0)
            # 计算准确率
            _, predicted = torch.max(outputs, 1)
            total_samples += labels.size(0)
            correct += (predicted == labels).sum().item()
    # 计算平均损失和准确率
    avg_val_loss = total_loss / total_samples
    val_acc = correct / total_samples
    return avg_val_loss, val_acc

在训练开始前直接调用该函数，即可得到未训练模型的初始val_loss和val_accuracy，注意提前将模型移动到指定设备（GPU/CPU）。

从常见迁移问题来看，优先排查以下几点：

• 数据预处理差异：TensorFlow默认是channels_last（[batch, H, W, C]），PyTorch是channels_first（[batch, C, H, W]），检查输入数据维度是否转换正确；同时确认归一化、标准化等预处理逻辑和TF版本完全一致
• 损失与优化器匹配：如果TF中用SparseCategoricalCrossentropy，PyTorch对应CrossEntropyLoss（无需手动将标签转为one-hot）；若误用NLLLoss，需在模型最后一层添加LogSoftmax
• 验证集分布问题：检查train_test_split的stratify参数是否设置为标签列，确保验证集标签分布与训练集一致；排查是否存在数据泄露（如训练/验证集有重叠样本）
• 模型初始化差异：TF与PyTorch的默认层初始化逻辑不同，可手动指定初始化策略，示例：

def init_weights(m):
    if isinstance(m, nn.Conv2d) or isinstance(m, nn.Linear):
        nn.init.xavier_uniform_(m.weight)
        if m.bias is not None:
            nn.init.constant_(m.bias, 0.0)
model.apply(init_weights)

按以下顺序排查：

• 输入维度不匹配：打印DataLoader输出的inputs.shape，确认是否符合模型输入要求（比如通道顺序、尺寸是否正确）
• 网络层维度衔接错误：检查卷积层的padding、stride、kernel_size参数，确保上一层输出维度与下一层输入维度匹配；可在模型forward函数中逐层打印张量shape，或用torchsummary.summary(model, input_size=(C, H, W))查看网络结构的维度流转
• 标签维度问题：若模型输出为[batch_size, num_classes]，确保标签是一维张量（[batch_size]），如果标签是二维（如[batch_size, 1]），需用labels.squeeze()压缩维度

内容的提问来源于stack exchange，提问作者beschichtung346