咱们先直接给出核心结论：GRU层的可训练参数总数可以通过这个公式计算：3 * (input_size + hidden_size) * hidden_size + 3 * hidden_size，或者简化为更直观的形式：3 * hidden_size * (input_size + hidden_size + 1)。

拆解参数构成： #

GRU的核心是三个关键组件：重置门（reset gate）、更新门（update gate），以及候选隐藏状态（candidate hidden state）。每个组件都需要三类可训练参数：

• 输入到当前时刻的权重矩阵，维度为 hidden_size × input_size
• 上一时刻隐藏状态到当前时刻的权重矩阵，维度为 hidden_size × hidden_size
• 对应组件的偏置向量，维度为 hidden_size × 1

因为有三个这样的组件，所以总参数数就是3倍的「输入权重参数 + 隐藏状态权重参数 + 偏置参数」，也就是上面的公式。

和LSTM的参数对比 #

对比长短期记忆(LSTM)单元的话，LSTM的参数数量是4 * (input_size + hidden_size) * hidden_size + 4 * hidden_size——原因很简单，LSTM比GRU多了一个遗忘门（forget gate），总共四个核心组件，所以参数总量比GRU多出约33%。

关于单参数性能对比的意义 #

你提到的单参数性能对比确实是对比不同RNN模型时非常公平的视角：

• 一般来说，可训练参数越多，模型的学习能力理论上越强，但同时也面临更高的过拟合风险
• 当我们要对比GRU和LSTM这类不同的RNN变体时，控制参数总量一致来评估效果，能更准确地衡量每个模型的参数效率——毕竟如果一个模型能用更少的参数达到和另一个模型相近甚至更好的效果，那它在资源受限的场景（比如移动端、边缘设备）里的实用性会高很多。

内容的提问来源于stack exchange，提问作者Sycorax