如何为含动态尺寸维度的输入使用Dense层？

问题核心 #

当输入包含运行时才能确定的动态维度（比如你的time维度），Flatten后的张量最后一维会是None，而标准Dense层要求输入的最后一维必须在模型构建阶段明确，因此触发报错。

解决方案：自定义动态全连接层 #

通过自定义层延迟权重的构建时机，直到运行时拿到实际输入的形状后再初始化权重，这样就能兼容动态维度的输入，同时完全保留Flatten后的所有原始像素信息。

import tensorflow as tf
from tensorflow.keras.layers import Flatten, Input

class DynamicDense(tf.keras.layers.Layer):
    def __init__(self, units, **kwargs):
        super().__init__(**kwargs)
        self.units = units
        self.W = None
        self.b = None

    def build(self, input_shape):
        # 运行时根据实际输入形状初始化权重
        input_dim = input_shape[-1]
        self.W = self.add_weight(
            shape=(input_dim, self.units),
            initializer="random_normal",
            trainable=True,
            name="dense_weights"
        )
        self.b = self.add_weight(
            shape=(self.units,),
            initializer="zeros",
            trainable=True,
            name="dense_bias"
        )
        super().build(input_shape)

    def call(self, inputs):
        # 首次调用时自动构建权重
        if self.W is None:
            self.build(inputs.shape)
        return tf.matmul(inputs, self.W) + self.b

# 定义输入形状（假设height=256, width=256, time为动态维度, channels=13）
input_tensor = Input(shape=(256, 256, None, 13))

# Flatten保留所有原始像素
x = Flatten()(input_tensor)
# 使用自定义动态全连接层替代标准Dense
x = DynamicDense(10)(x)

model = tf.keras.models.Model(inputs=input_tensor, outputs=x)

# 模型summary会显示动态形状，实际权重在首次喂入数据时构建
model.summary()

说明 #

• 自定义的DynamicDense层会在第一次接收实际输入数据时，根据输入的真实形状初始化权重，避开了模型构建阶段需要固定维度的限制。
• 完全保留了Flatten后的所有原始像素信息，未使用池化等降维操作，符合需求。
• 训练时权重会正常更新，行为和标准Dense层一致。

内容的提问来源于stack exchange，提问作者lbrandao