既然RNN可处理动态序列输入，为何仍需对句子做padding？

虽然RNN本身确实支持处理任意长度的序列，但实际工程训练中必须做padding，核心原因集中在这几点：

• 批量训练的硬性要求：当下深度学习训练都是以批量为单位喂入数据，TensorFlow、PyTorch这类框架要求同一个batch里的所有样本必须是维度统一的张量。如果一个batch里既有4个时间步的短句，又有10个时间步的长句，张量根本无法对齐，计算图也没法正常构建。padding就是把短句子补到当前batch的最长长度，让整个batch的维度保持一致。

• 计算效率的现实考量：如果每个样本单独处理，训练速度会慢到难以接受。批量处理能充分利用GPU的并行计算能力，而统一序列长度是实现批量并行的前提。哪怕愿意接受单样本训练，训练周期也会被大幅拉长，完全不符合工程落地的需求。

• 降低代码复杂度：如果不做padding，就得为不同长度的样本编写专门的处理逻辑——比如动态计算每个样本的时间步、单独维护每个样本的RNN状态，这会让代码变得异常复杂，还容易引发bug。用padding的话，框架能直接处理统一维度的数据，代码逻辑会简洁很多。

• 输出提取的逻辑简化：在情感分类这类Many-to-one任务里，我们需要取序列最后一个时间步的输出。如果不做padding，不同长度样本的最后一步位置各不相同，提取结果时还要额外判断；padding后可以直接取固定位置的输出，逻辑更直观简单。

当然，padding会引入无效的padding token，可能干扰模型计算，不过这个问题可以通过**掩码（masking）**机制解决——告诉模型哪些是真实数据，哪些是padding的无效内容，忽略这些部分的计算。

内容的提问来源于stack exchange，提问作者Arjun Reddy