自定义Peephole LSTM Layer触发TypeError的解决请求

问题核心 #

自定义Peephole LSTM Layer时，call方法里初始化状态张量用了静态的batch_size=None，导致tf.zeros报错——因为tf.zeros要求维度参数是具体数值，但我们需要模型适配任意大小的数据集，不能硬编码batch_size。

原错误代码片段（问题所在） #

def call(self, inputs):
    # 这里batch_size是None，静态形状未确定
    batch_size = self.batch_size  # 或者从inputs.shape[0]获取到None
    h = tf.zeros((batch_size, self.units))
    c = tf.zeros((batch_size, self.units))
    # ... 后续LSTM计算逻辑

修改方案：用动态形状获取运行时batch_size #

TensorFlow提供tf.shape()获取张量的动态运行时形状，替代静态的inputs.shape（后者在batch_size未固定时返回None）。修改后的call方法可以完美适配任意batch_size：

class PeepholeLSTM(tf.keras.layers.Layer):
    def __init__(self, units, **kwargs):
        super().__init__(**kwargs)
        self.units = units
        # 定义窥视孔LSTM的各类权重（输入门、遗忘门、输出门、细胞状态，含窥视连接权重）
        self.w_i = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='w_i')
        self.u_i = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='u_i')
        self.v_i = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='v_i')
        self.b_i = self.add_weight(shape=(self.units,), initializer='zeros', name='b_i')
        
        # 遗忘门权重定义
        self.w_f = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='w_f')
        self.u_f = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='u_f')
        self.v_f = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='v_f')
        self.b_f = self.add_weight(shape=(self.units,), initializer='zeros', name='b_f')
        
        # 输出门权重定义
        self.w_o = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='w_o')
        self.u_o = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='u_o')
        self.v_o = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='v_o')
        self.b_o = self.add_weight(shape=(self.units,), initializer='zeros', name='b_o')
        
        # 细胞状态权重定义
        self.w_c = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='w_c')
        self.u_c = self.add_weight(shape=(self.units, self.units), initializer='glorot_uniform', name='u_c')
        self.b_c = self.add_weight(shape=(self.units,), initializer='zeros', name='b_c')

    def call(self, inputs):
        # 获取动态batch_size和序列长度，运行时自动适配输入
        batch_size = tf.shape(inputs)[0]
        seq_len = tf.shape(inputs)[1]
        
        # 初始化隐藏状态h和细胞状态c，用动态batch_size创建张量
        h = tf.zeros((batch_size, self.units), dtype=inputs.dtype)
        c = tf.zeros((batch_size, self.units), dtype=inputs.dtype)
        
        # 遍历序列步长执行LSTM计算
        for t in tf.range(seq_len):
            x_t = inputs[:, t, :]
            # 窥视孔输入门计算（引入细胞状态c的连接）
            i_t = tf.sigmoid(tf.matmul(x_t, self.w_i) + tf.matmul(h, self.u_i) + tf.matmul(c, self.v_i) + self.b_i)
            # 遗忘门计算
            f_t = tf.sigmoid(tf.matmul(x_t, self.w_f) + tf.matmul(h, self.u_f) + tf.matmul(c, self.v_f) + self.b_f)
            # 细胞状态更新
            c_tilde = tf.tanh(tf.matmul(x_t, self.w_c) + tf.matmul(h, self.u_c) + self.b_c)
            c = f_t * c + i_t * c_tilde
            # 输出门计算（引入细胞状态c的连接）
            o_t = tf.sigmoid(tf.matmul(x_t, self.w_o) + tf.matmul(h, self.u_o) + tf.matmul(c, self.v_o) + self.b_o)
            # 隐藏状态更新
            h = o_t * tf.tanh(c)
        
        return h

简化方案：用tf.zeros_like快速初始化状态 #

如果输入的特征维度和LSTM单元数一致，还可以用tf.zeros_like省略batch_size的显式获取：

def call(self, inputs):
    # 直接从输入的第一个时间步形状初始化状态
    h = tf.zeros_like(inputs[:, 0, :])
    c = tf.zeros_like(inputs[:, 0, :])
    # ... 后续计算逻辑

如果特征维度和单元数不一致，可通过tf.tile调整形状：

h = tf.zeros_like(tf.expand_dims(inputs[:, 0, 0], axis=-1))
h = tf.tile(h, [1, self.units])
c = tf.identity(h)

错误栈对应解释 #

假设你遇到的错误是：

TypeError: Cannot convert a symbolic Tensor (strided_slice:0) to a numpy array. This error may indicate that you're trying to pass a Tensor to a NumPy call, which is not supported.

或：

TypeError: Expected int32, got None of type 'NoneType' instead.

本质是静态的batch_size=None被传入tf.zeros时，TensorFlow尝试将其转换为numpy整数，但动态张量无法直接转numpy。用tf.shape(inputs)[0]得到的是动态张量，tf.zeros支持接收张量作为维度参数，因此能解决问题。

模型构建保持适配性 #

确保输入层不固定batch_size，维持模型的通用性：

# 输入形状设为(None, feature_dim)，seq_len和batch_size都自适应
inputs = tf.keras.Input(shape=(None, 128))
peephole_lstm = PeepholeLSTM(units=64)
outputs = peephole_lstm(inputs)
model = tf.keras.Model(inputs=inputs, outputs=outputs)

内容的提问来源于stack exchange，提问作者Harry Chittenden