多输出分类模型中能否基于预测结果动态分配损失权重？

完全可以基于category分支的预测结果动态调整sub_category的损失权重，核心是放弃Keras内置的固定loss_weights参数，改用自定义联合损失函数，在函数内部根据预测结果动态计算权重。

核心思路 #

当category分支预测错误时，提升sub_category损失的权重，让模型优先修正这类样本的子类别预测；当category预测正确时，保持较低的sub_category权重，避免干扰主分类任务的收敛。

代码实现（TensorFlow/Keras） #

import tensorflow as tf
from tensorflow.keras.losses import categorical_crossentropy

def adaptive_joint_loss(y_true, y_pred):
    # 拆分真实标签与预测结果
    y_true_cat, y_true_sub = y_true
    y_pred_cat, y_pred_sub = y_pred
    
    # 计算基础损失
    loss_cat = categorical_crossentropy(y_true_cat, y_pred_cat)
    loss_sub = categorical_crossentropy(y_true_sub, y_pred_sub)
    
    # 标记category预测错误的样本（1=错误，0=正确）
    cat_pred_incorrect = tf.cast(
        tf.not_equal(tf.argmax(y_pred_cat, axis=1), tf.argmax(y_true_cat, axis=1)),
        tf.float32
    )
    
    # 定义自适应权重：错误样本用高权重，正确样本用原固定权重
    # 示例：错误时权重0.5，正确时0.025
    adaptive_weight = cat_pred_incorrect * 0.475 + 0.025
    
    # 计算总损失
    total_loss = loss_cat + adaptive_weight * loss_sub
    return total_loss

模型编译与使用 #

模型输出需保持[category_output, sub_category_output]的结构，编译时直接传入自定义损失：

model.compile(optimizer='adam', loss=adaptive_joint_loss)

扩展优化 #

• 如果需要更平滑的权重过渡，可以用category分支的预测置信度（最大softmax值）替代硬判断：

  # 用1减去置信度作为权重系数，置信度越低（越可能错）权重越高
  cat_confidence = tf.reduce_max(tf.nn.softmax(y_pred_cat, axis=1), axis=1)
  adaptive_weight = (1 - cat_confidence) * 0.475 + 0.025
  

• 权重的具体数值需根据任务需求调试，比如子类别任务优先级更高时，可进一步调高错误样本的权重。

内容的提问来源于stack exchange，提问作者Dushi Fdz