仅用Keras Dense层与Sequential模型从零搭建RNN可行吗？

可行性说明 #

完全可行。RNN的核心逻辑就是同一组权重的层在序列的每个时间步重复计算，Dense层作为带可训练权重的全连接层，只要让同一个Dense层（或基于Dense的Sequential单元）在不同时间步复用，就能模拟RNN的循环机制。

你的代码错误原因 #

你遇到的“maximum recursion depth exceeded”错误，核心问题是为每个时间步创建了独立的Input层，导致模型构建时形成了过长的链式依赖，触发Python的递归深度限制。另外你的实现用了函数式API而非Sequential，但这不是报错的直接原因。

修正后的实现方案 #

方案1：函数式API+复用Dense层（修正你的代码逻辑） #

调整输入为包含时间步维度的单Input层，避免多Input层引发的递归问题，同时保证Dense层权重复用：

import tensorflow as tf

def build_rnn(hidden_state_size, input_size, timesteps=2, final_layers=None):
    # 输入形状：(batch_size, timesteps, input_size)，符合序列数据常规格式
    inputs = tf.keras.layers.Input(shape=(timesteps, input_size))
    
    # 初始化隐藏状态h0，形状：(batch_size, hidden_state_size)
    h = tf.keras.layers.Input(shape=(hidden_state_size,), name='h0')
    
    # 定义唯一的Dense层，所有时间步复用该层权重
    rnn_dense = tf.keras.layers.Dense(
        hidden_state_size,
        activation='sigmoid',
        name='rnn_core'
    )
    
    # 循环展开每个时间步的计算
    for t in range(timesteps):
        # 提取当前时间步的输入
        x_t = tf.keras.layers.Lambda(lambda x: x[:, t, :])(inputs)
        # 拼接当前输入与上一步隐藏状态
        concat = tf.keras.layers.Concatenate()([x_t, h])
        # 更新隐藏状态
        h = rnn_dense(concat)
    
    # 添加用户指定的最终层
    if final_layers is not None:
        for layer in final_layers:
            h = layer(h)
    
    return tf.keras.Model(inputs=[inputs, h], outputs=h)

方案2：用Sequential构建时间步单元+循环复用 #

严格贴合“仅用Sequential模型”的要求，先构建单个时间步的计算单元，再循环复用：

import tensorflow as tf

def build_rnn_with_sequential(hidden_state_size, input_size, timesteps=2, final_layers=None):
    # 用Sequential封装单个时间步的计算逻辑（仅含Dense层）
    rnn_step = tf.keras.Sequential([
        tf.keras.layers.Dense(
            hidden_state_size,
            activation='sigmoid',
            name='rnn_core'
        )
    ])
    
    # 输入序列：(batch_size, timesteps, input_size)
    inputs = tf.keras.layers.Input(shape=(timesteps, input_size))
    # 初始隐藏状态
    h = tf.keras.layers.Input(shape=(hidden_state_size,), name='h0')
    
    # 循环处理每个时间步，复用Sequential单元
    for t in range(timesteps):
        x_t = tf.keras.layers.Lambda(lambda x: x[:, t, :])(inputs)
        concat = tf.keras.layers.Concatenate()([x_t, h])
        h = rnn_step(concat)
    
    # 添加最终层
    if final_layers:
        for layer in final_layers:
            h = layer(h)
    
    return tf.keras.Model(inputs=[inputs, h], outputs=h)

关键注意点 #

• 权重复用：两种方案都只定义了一个核心计算层（Dense或Sequential单元），所有时间步共享同一组权重，完全符合RNN的核心机制。
• 输入格式：改用包含时间步维度的单Input层，既避免了递归深度问题，也适配了序列数据的常规输入形式。
• 递归错误解决：通过Lambda层提取单个时间步输入，打破了原代码中过长的层链式依赖，从根本上解决递归超限问题。

内容的提问来源于stack exchange，提问作者ThirstyOfKnowledge