Keras自定义层build方法调用时机、input_shape传参与固定参数定义咨询

build方法调用时机与input_shape参数说明 #

• 调用时机：build是懒加载触发的，实例化层对象的时候不会执行，只有当层第一次收到输入数据、需要初始化权重时才会被框架自动调用，且层的整个生命周期内只会执行一次。
  以你贴的SimpleDense代码为例，执行linear_layer = SimpleDense(4)时仅运行__init__方法，此时权重w、b都还没创建；等你第一次把输入张量传入层做前向计算时，框架检测到层未完成初始化，会先自动调用build完成权重创建，再执行call方法跑前向逻辑。你也可以手动调用层对象.build(输入形状)提前初始化权重，跳过第一次前向时的自动触发步骤。
• input_shape的来源与含义：这个参数是框架第一次前向传播时，从你传入的真实输入张量中自动提取的形状值，不需要手动传入。比如你第一次传入的输入张量shape为(32, 128)（32是batch size，128是输入特征维度），那传入build的input_shape就是(None, 128)，其中batch维度因为大小不固定会被标记为None。示例代码里取input_shape[-1]就是为了拿到输入最后一维的特征长度，用来确定权重w的第一维大小，保证矩阵乘法维度匹配。

固定尺寸(1,768)参数的定义方式 #

这种形状完全固定、和输入尺寸无关的参数，不需要依赖build传入的input_shape，两种合法写法都可以：

1. 直接在__init__方法中创建：因为参数形状和输入没有关联，实例化层的时候就能直接初始化，不需要等拿到输入形状再创建，是更简洁的写法。
2. 写在build方法中创建：完全不会报错，只是初始化参数的时候不需要使用传入的input_shape，直接写死形状(1,768)即可，只是这种写法没必要等第一次前向才创建参数，没有实际收益。

固定参数的写法示例：

class FixedParamLayer(Layer):
    def __init__(self):
        super().__init__()
        # 直接在__init__中创建固定形状参数
        self.fixed_weight = tf.Variable(
            initial_value=tf.random_normal_initializer()(shape=(1, 768), dtype='float32'),
            trainable=True
        )

    def call(self, inputs):
        # 自定义前向计算逻辑
        return inputs + self.fixed_weight

补充说明：通用实践里，凡是形状依赖输入尺寸的权重（比如全连接层权重、卷积核）都建议放在build里创建，这样层可以自动适配不同形状的输入，不需要手动硬编码输入维度；和输入形状无关的固定参数，放在__init__里创建更直观。

内容的提问来源于stack exchange，提问作者R__