TensorFlow自定义训练循环+tf.data.Dataset时序模型报错求助

问题背景 #

构建带自回归逻辑的TensorFlow模型，核心需求：

• 双输入分支：Input1为时序数据（var1、var2为输入特征，var3既是输入也是标签，预测结果需插入var3下一时间步）；Input2为静态特征序列
• 自定义训练循环，预测结果作为下一时间步输入
• 当前在双输入传递、call函数处理时触发维度错误

错误信息 #

File "E:\Anaconda3\envs\tf2.7_bigData\lib\site-packages\keras\layers\rnn\lstm.py", line 190, in build
input_dim = input_shape[-1]

IndexError: tuple index out of range

Call arguments received by layer "feed_back" "                 f"(type FeedBack):
• inputs=('tf.Tensor(shape=(None, 15, 3), dtype=float32)', 'tf.Tensor(shape=(None, 24), dtype=float32)')
• training=True

核心错误分析 #

1. call函数错误创建Input层：call函数的输入是模型接收的真实数据，不需要重新定义tf.keras.Input，应直接拆分传入的inputs参数
2. LSTMCell调用方式错误：LSTMCell是底层单元，不能直接传入单元数调用，需维护hidden state和cell state
3. 层实例化位置错误：Dropout、Dense等层应在__init__中实例化，而非call函数内每次创建新层（会导致权重无法共享）
4. 输入切片忽略batch维度：直接对inputs1[i:i+num_timesteps_in, :]切片会丢失batch维度，需保留第一维
5. 训练代码错误覆盖call方法：base_model.call = cr.call完全多余，模型自身已实现call逻辑

修复后的模型代码 #

import tensorflow as tf

class FeedBack(tf.keras.Model):
    def __init__(self, num_timesteps_in, num_timesteps_out, nb_features, nb_attributs,
                 nb_lstm_units, nb_dense_units):
        super(FeedBack, self).__init__()
        self.num_timesteps_in = num_timesteps_in
        self.num_timesteps_out = num_timesteps_out
        self.nb_features = nb_features
        self.nb_attributs = nb_attributs
        self.nb_lstm_units = nb_lstm_units
        self.nb_dense_units = nb_dense_units

        # 初始化所有需要复用的层
        self.lstm_cell = tf.keras.layers.LSTMCell(nb_lstm_units)
        self.dropout1 = tf.keras.layers.Dropout(0.2)
        self.concat = tf.keras.layers.Concatenate(axis=1)
        self.dense1 = tf.keras.layers.Dense(nb_dense_units)
        self.dropout2 = tf.keras.layers.Dropout(0.2)
        self.dense_out = tf.keras.layers.Dense(1, activation='linear')

    def call(self, inputs, training=None):
        # 拆分双输入：inputs是元组(inputs1, inputs2)
        inputs1, inputs2 = inputs
        # 复制输入序列，避免修改原始输入张量
        current_seq = tf.Variable(inputs1, trainable=False)
        predictions = []

        # 初始化LSTM状态（batch_size从输入中获取）
        batch_size = tf.shape(inputs1)[0]
        state = self.lstm_cell.get_initial_state(batch_size=batch_size, dtype=tf.float32)

        for i in range(self.num_timesteps_out):
            # 截取当前输入窗口：保留batch维度
            input_chunk = current_seq[:, i:i+self.num_timesteps_in, :]
            # 处理LSTM单元：输出和新状态
            lstm_output, state = self.lstm_cell(input_chunk, states=state, training=training)
            # 应用Dropout
            lstm_output = self.dropout1(lstm_output, training=training)

            # 拼接静态特征：两者都是2D张量，直接拼接
            merged_input = self.concat([lstm_output, inputs2])
            # 全连接层处理
            merged_input = self.dense1(merged_input)
            merged_input = self.dropout2(merged_input, training=training)
            # 预测单步结果
            prediction = self.dense_out(merged_input)

            # 将预测结果插入到下一时间步的var3位置（最后一个特征）
            update_indices = tf.stack([tf.range(batch_size), 
                                      tf.fill([batch_size], i+self.num_timesteps_in), 
                                      tf.fill([batch_size], self.nb_features-1)], axis=1)
            current_seq.scatter_nd_update(update_indices, tf.squeeze(prediction, axis=1))

            predictions.append(prediction)

        # 将预测列表转换为张量，形状为(batch, num_timesteps_out, 1)
        return tf.concat(predictions, axis=1)

修复后的训练代码 #

optimizer = tf.keras.optimizers.Adam(learning_rate=learning_rates[1])

# 转换为tf.data.Dataset
inputs_hydro = tf.data.Dataset.from_tensor_slices(X1)
inputs_static = tf.data.Dataset.from_tensor_slices(X2)
output = tf.data.Dataset.from_tensor_slices(y)
combined_dataset = tf.data.Dataset.zip(((inputs_hydro, inputs_static), output))
input_dataset = combined_dataset.batch(5)

# 初始化模型：参数需和实际数据维度匹配
base_model = FeedBack(num_timesteps_in=10, num_timesteps_out=5, 
                      nb_features=3, nb_attributs=24, 
                      nb_lstm_units=50, nb_dense_units=50)
# 移除错误的call方法覆盖
# base_model.call = cr.call  # 这行删掉！
model.compile(optimizer=optimizer, loss=tf.keras.losses.MeanSquaredError())
history = model.fit(input_dataset, verbose=1, epochs=10)

关键修复点说明 #

• 输入处理：直接拆分传入的inputs元组，用tf.Variable包装时序序列以便动态更新
• LSTM状态管理：手动维护LSTM的hidden state和cell state，确保自回归过程中状态连续
• 层复用：所有可训练层和Dropout都在__init__中实例化，保证训练时权重共享
• 张量更新：用scatter_nd_update安全更新时序序列中的指定位置，避免直接索引赋值的错误
• 参数匹配：模型初始化参数要和实际数据维度对应（比如原代码中nb_features传2，但数据是3维特征，需修正）

内容的提问来源于stack exchange，提问作者Jonathan Roy