这个问题问到点子上了——答案是完全可以得到正确的梯度，只要你遵循TensorFlow自动微分的基本逻辑来处理损失就行。

先给你捋清楚背后的逻辑：TensorFlow的自动微分机制（不管是GradientTape还是Keras的内置训练流程）是基于计算图追踪每个张量的依赖关系的，和单个损失张量的形状没有直接关联。哪怕批次里每个样本的损失尺寸不一样，你把它们拼接成一个大张量，再通过求和、平均这类归约操作得到标量损失（毕竟优化器本质上需要标量来计算梯度），梯度都会被正确计算并传播回模型参数。

给你举个简单的代码例子直观感受下：

import tensorflow as tf

# 模拟批次里不同尺寸的损失张量
loss_sample1 = tf.random.normal((3,))  # 第一个样本的损失，形状(3,)
loss_sample2 = tf.random.normal((5,))  # 第二个样本的损失，形状(5,)
loss_sample3 = tf.random.normal((2,))  # 第三个样本的损失，形状(2,)

# 拼接所有损失张量
combined_loss_tensor = tf.concat([loss_sample1, loss_sample2, loss_sample3], axis=0)
# 归约为标量损失（优化器必须接收标量才能正常工作）
final_scalar_loss = tf.reduce_mean(combined_loss_tensor)

# 用GradientTape验证梯度计算逻辑
with tf.GradientTape() as tape:
    # 实际场景中这里是模型前向传播生成各样本损失，这里简化模拟
    tape.watch([loss_sample1, loss_sample2, loss_sample3])
    combined = tf.concat([loss_sample1, loss_sample2, loss_sample3], axis=0)
    scalar_loss = tf.reduce_mean(combined)

# 计算梯度（实际中是对模型参数求导，这里对损失张量求导看规律）
grads = tape.gradient(scalar_loss, [loss_sample1, loss_sample2, loss_sample3])
print("各损失张量的梯度：", grads)

运行这段代码你会发现，三个损失张量的梯度都是对应形状的全1/10张量——因为总共有3+5+2=10个元素，平均后每个元素的梯度就是1/10，完全符合微分的链式法则，说明梯度计算是正确的。

最后补充几个需要注意的细节：

• 不要只拼接损失而不归约成标量：大部分优化器的minimize或apply_gradients方法默认要求输入标量损失，直接传拼接后的张量会报错。
• 确保计算图连续：别用numpy操作打断TensorFlow的计算流程，不然自动微分会失效。
• 如果是多任务场景：拼接后归约的逻辑和给不同任务损失加权重求和是类似的，只要权重设置合理，梯度传播依然正确。

内容的提问来源于stack exchange，提问作者kafaso