基于YOTO的多损失调优：最值预测控制旋钮失效问题问询

核心问题分析 #

1. 训练与模型参数脱节：训练时传入的lambd是[alpha, 1-alpha]，但模型内部又通过loss_parameter_mlp对其做变换，导致实际作用于模型的参数和训练时的加权系数alpha没有明确对应关系，模型无法学习到lambd与输出目标的绑定逻辑。
2. Logits处理错误：用ReLU()处理最后一层输出，会导致logits非负，破坏交叉熵损失的梯度传递逻辑（交叉熵期望输入是未经过激活的原始logits）。
3. 训练代码语法错误：alpha生成语句存在多余右括号，且训练循环没有让模型明确关联控制参数与对应输出目标的映射关系。
4. 中间层耦合方式低效：直接对中间层特征做乘加操作，梯度信号太弱，模型难以学习到lambd对输出模式的控制能力。

具体修复步骤 #

1. 重构模型结构

• 移除最后一层的ReLU()，保留原始logits输出；
• 拆分出预测最大值、最小值的双任务分支，用控制参数直接融合两个分支的输出，让模型明确感知控制逻辑；
• 简化参数映射层，让输入的控制参数直接对应两个任务分支的权重。

修改后的模型代码：

class MyModel(Module):
    def __init__(self, vocab_size, embedding_dim, input_dim):
        super(MyModel, self).__init__()
        self.input_dim = input_dim
        self.embedding_dim = embedding_dim
        self.emb = Embedding(num_embeddings=vocab_size, embedding_dim=embedding_dim)
        
        # 共享特征提取层
        self.shared_backbone = Sequential(
            Linear(input_dim * embedding_dim, 64),
            ReLU(),
            Linear(64, 32),
            ReLU()
        )
        
        # 双任务头：分别预测最大值、最小值的位置
        self.max_predict_head = Linear(32, 10)
        self.min_predict_head = Linear(32, 10)
        
        # 控制参数映射层：将单个alpha映射为两个分支的权重
        self.alpha_proj = Sequential(
            Linear(1, 2),
            Softmax(dim=1)
        )

    def forward(self, x, alpha):
        # alpha为0~1的控制参数：0对应全预测最小值，1对应全预测最大值
        x = self.emb(x).reshape(-1, self.input_dim * self.embedding_dim)
        shared_features = self.shared_backbone(x)
        
        # 获取两个任务分支的原始logits
        logits_max = self.max_predict_head(shared_features)
        logits_min = self.min_predict_head(shared_features)
        
        # 用alpha生成权重，融合两个分支的logits
        if alpha.dim() == 1:
            alpha = alpha.reshape(-1, 1)
        branch_weights = self.alpha_proj(alpha)
        fused_logits = branch_weights[:, 0:1] * logits_max + branch_weights[:, 1:2] * logits_min
        
        return fused_logits

2. 修正训练逻辑

• 修复alpha生成的语法错误，生成覆盖0~1全区间的训练序列；
• 让训练时的损失加权系数与模型输入的控制参数完全对齐，强化参数与目标的绑定；
• 调整batch维度下的控制参数传递，适配批量输入。

修改后的训练代码：

epochs = 200

# 生成覆盖0~1全区间的alpha序列，打乱顺序增强泛化
alpha = np.concatenate([
    np.linspace(0, 1, int(epochs*0.5)),
    np.linspace(1, 0, int(epochs*0.5))
])
np.random.shuffle(alpha)

for epoch in range(epochs):
    current_alpha = alpha[epoch]
    # 生成适配batch的控制参数张量
    alpha_tensor = torch.tensor([current_alpha], dtype=torch.float32).repeat(train_loader.batch_size)
    
    for batch, x in enumerate(train_loader):
        batch_size = len(x)
        batch_alpha = alpha_tensor[:batch_size].reshape(-1, 1)
        
        # 计算真实标签：最大值、最小值的位置
        y_max = torch.argmax(x, axis=1)
        y_min = torch.argmin(x, axis=1)
        
        y_pred = model(x, batch_alpha)
        loss_max = CE_loss(y_pred, y_max)
        loss_min = CE_loss(y_pred, y_min)
        
        optimizer.zero_grad()
        # 损失加权系数与模型控制参数严格一致
        loss = current_alpha * loss_max + (1 - current_alpha) * loss_min
        loss.backward()
        optimizer.step()

3. 额外优化建议

• 参数初始化：对alpha_proj层做针对性初始化，比如让输入0时输出[0,1]，输入1时输出[1,0]，帮助模型快速收敛；
• 验证逻辑：训练完成后，测试alpha=0、0.5、1三个关键值的输出，统计预测最大值/最小值的概率，验证控制效果；
• 动态参数采样：训练时随机采样alpha值（而非固定序列），让模型适应更灵活的控制场景。

内容的提问来源于stack exchange，提问作者max_max_mir