基于ALBERT与Siamese网络的主观题评分模型训练停滞问题问询

问题根源及修复办法 #

1. 元学习内循环权重更新逻辑错误 #

你在MetaTask的forward方法里，内循环每次更新fast_weights时，都重新从原始网络参数初始化，而非基于上一步更新后的fast_weights继续优化。这直接导致内循环的权重更新完全无效，元学习根本无法积累任务间的梯度信息。

修复代码:
删除内循环中初始化fast_weights的代码，直接基于当前fast_weights计算梯度：

# 原错误代码片段
fast_weights = OrderedDict(self.net.named_parameters())
grad = torch.autograd.grad(loss, fast_weights.values(), retain_graph=True)
# 修复后
grad = torch.autograd.grad(loss, fast_weights.values(), retain_graph=True)
fast_weights = OrderedDict(
    (name, param - self.update_lr * grad)
    for ((name, param), grad) in zip(fast_weights.items(), grad)
)

2. Softmax与CrossEntropyLoss的冲突 #

Siamese网络在返回输出前调用了F.softmax，但CrossEntropyLoss内部已包含log_softmax计算。这会导致损失函数计算完全错误，梯度值要么异常要么趋近于0，权重自然无法更新。

修复代码:
移除Siamese forward中的F.softmax，直接返回全连接层的原始输出（logits）：

# 原错误代码
output = self.classifier(features)
output = F.softmax(output, dim=1)
return output
# 修复后
output = self.classifier(features)
return output

3. 特征拼接维度不匹配 #

拼接后的特征维度与分类器输入维度不匹配：

• ALBERT池化输出v1/v2各384维，双向LSTM输出lstm_v1/lstm_v2各128维（64*2），总维度为1024
• 但分类器第一层设置为nn.Linear(896, ...)，维度不匹配会导致计算错误或梯度异常。

修复代码:
修正分类器输入维度为1024：

self.classifier = nn.Sequential(
    nn.Linear(1024, self.input_dim // 2),
    nn.Linear(self.input_dim // 2, 9)
)

4. LSTM初始状态设置问题 #

LSTMEncoder每次生成随机隐藏状态并开启requires_grad=True，这不仅浪费计算资源，还会导致训练不稳定。

修复代码:
改用零初始化更简单直接：

def initHiddenCell(self, batch_size):
    hidden = torch.zeros(self.direction * self.num_layers, batch_size, self.hidden_size).to(self.device)
    cell = torch.zeros(self.direction * self.num_layers, batch_size, self.hidden_size).to(self.device)
    return hidden, cell

5. ALBERT预训练参数优化策略 #

预训练ALBERT参数量级大，直接使用与自定义网络相同的学习率会导致梯度被稀释。建议给ALBERT设置更小的学习率（如meta_lr的1/10），或先冻结ALBERT训练自定义部分，再微调ALBERT。

修复示例:
拆分优化器，为不同模块设置不同学习率：

albert_params = list(self.net.bert.parameters())
siamese_params = list(self.net.siamese_network.parameters())
self.meta_optim = optim.Adam([
    {'params': albert_params, 'lr': self.meta_lr * 0.1},
    {'params': siamese_params, 'lr': self.meta_lr}
])

额外调试建议 #

• 打印各层参数的梯度均值，检查是否存在梯度全为0的情况（示例：for param in self.net.parameters(): print(param.grad.mean())）
• 验证数据加载逻辑，确保学生答案与参考答案对应，标签分布合理
• 降低元学习的update_lr和meta_lr，避免梯度爆炸或消失

内容的提问来源于stack exchange，提问作者Ken