TensorFlow自定义Model子类为何需在构造函数中初始化网络层

核心机制：Keras模型的层与权重追踪逻辑 #

tf.keras.Model继承自tf.keras.layers.Layer，内置了自动的层、权重注册机制：

• 模型实例初始化阶段，会递归扫描自身所有实例属性，识别所有属于Layer子类的属性值，自动将这些层包含的权重加入模型的可训练/不可训练参数列表。后续model.summary()参数统计、优化器梯度更新、模型权重保存/加载，全部基于这个提前注册完成的参数列表执行。

两种初始化方式的差异原因 #

构造函数__init__中初始化层（正常工作） #

在__init__方法中实例化Dense等层、并将其绑定为self的实例属性时，层实例会在模型创建阶段就被上述追踪逻辑捕获，权重成功注册：

• 后续call方法前向传播时，只是反复调用同一个已经注册的层实例，权重会在多轮训练中持续留存，梯度可以正常回传、优化器可以正常更新参数，因此模型可以正常训练，参数统计结果也符合预期。

call方法中初始化层（无法训练） #

将层实例化代码写在call方法内部时，会触发两个核心问题：

1. 参数无法被注册：call内部创建的层是方法级局部变量，不会被绑定为模型的实例属性，模型的参数追踪逻辑完全感知不到这些层的存在，因此model.summary()会显示可训练参数为0，优化器也无法获取这些层的权重执行更新。
2. 权重无法留存：每次执行前向传播时，代码都会创建一个全新的层实例，使用随机初始化的权重计算；单次前向传播结束后，这个临时层就会被内存回收，上一轮计算产生的权重变化根本不会保留到下一轮，相当于每轮训练都在使用全新的随机权重，模型自然完全无法收敛。

补充注意：哪怕在call方法中将临时创建的层赋值给self属性，只要首次调用call前模型没有完成权重构建，summary()统计、权重保存等逻辑依然可能出现异常，官方规范写法始终要求在__init__方法中完成所有自定义层的实例化。

写法对比 #

错误写法 #

class BadCustomModel(tf.keras.Model):
    def call(self, inputs):
        # 每次前向传播新建层，无注册、无权重留存
        x = tf.keras.layers.Dense(20, activation='relu')(inputs)
        return tf.keras.layers.Dense(1)(x)

正确写法 #

class GoodCustomModel(tf.keras.Model):
    def __init__(self):
        super().__init__()
        # 构造阶段实例化层，自动完成权重注册
        self.hidden_dense = tf.keras.layers.Dense(20, activation='relu')
        self.output_dense = tf.keras.layers.Dense(1)

    def call(self, inputs):
        x = self.hidden_dense(inputs)
        return self.output_dense(x)

内容的提问来源于stack exchange，提问作者Abhishek Kishore