如何在Keras中实现未训练模型的可复现权重初始化与预测？

你遇到的问题其实是Keras/TensorFlow中延迟权重初始化加上随机种子覆盖不全面导致的。虽然你设置了全局的numpy和TensorFlow随机种子，但Keras的层初始化器默认会使用独立的随机状态，并非完全依赖全局种子；而且权重的真正初始化时机并不是在模型创建或编译时，而是在模型第一次接收输入数据的时候（比如调用predict、fit甚至summary）。

为什么当前代码无法复现？ #

• 你使用的tf.set_random_seed(33)是TensorFlow 1.x的全局图级种子API，但Keras的默认初始化器（比如glorot_uniform）会创建专属的随机生成器，除非显式指定种子，否则每次初始化都会生成不同的权重。
• 权重初始化发生在模型第一次运行时（也就是你调用model.predict(random_data)的阶段），而不是model = make_classifier()或model.compile()的环节。

实现可复现预测的步骤 #

要让刚初始化的网络预测结果完全一致，需要做到以下几点：

1. 固定所有随机源的种子
   • 除了numpy和TensorFlow的全局种子，还要给每个层的权重初始化器指定固定种子；
   • 如果是TensorFlow 1.x，保留tf.set_random_seed；如果是TF2.x，改用tf.random.set_seed。
2. 确保Dropout在预测阶段不引入随机性（你这里是未训练的预测，Dropout默认在predict时会自动关闭，所以这部分不是当前问题，但训练时如果需要复现也可以给Dropout指定种子）

修改后的代码示例 #

针对你的代码，调整如下：

import numpy as np
from tensorflow.keras.layers import Dense, Dropout
from tensorflow.keras import Sequential, optimizers
import tensorflow as tf

# 固定numpy随机种子
np.random.seed(32)
# 固定TensorFlow全局随机种子（TF1.x用tf.set_random_seed，TF2.x替换为tf.random.set_seed）
tf.set_random_seed(33)

random_data = np.random.rand(10, 2048)
print(random_data[:,0])

def make_classifier():
    model = Sequential()
    # 给每个Dense层的初始化器指定固定种子，偏置用零初始化消除随机性
    model.add(Dense(1024, activation='relu', input_dim=2048,
                   kernel_initializer=tf.keras.initializers.glorot_uniform(seed=42),
                   bias_initializer=tf.keras.initializers.Zeros()))
    # Dropout指定种子（训练时复现需要，预测时自动关闭不影响）
    model.add(Dropout(0.5, seed=43))
    model.add(Dense(1, activation='sigmoid',
                   kernel_initializer=tf.keras.initializers.glorot_uniform(seed=44),
                   bias_initializer=tf.keras.initializers.Zeros()))
    model.compile(optimizer=optimizers.RMSprop(lr=2e-4), loss='binary_crossentropy')
    return model

model = make_classifier()
# 第一次调用predict时触发权重初始化，后续运行会复用相同初始化结果
model.predict(random_data)

关于权重初始化时机的补充 #

权重初始化的触发时机是模型第一次处理输入数据的时候：

• 当你调用model.predict(random_data)，Keras会根据输入形状（这里是(10,2048)）确定层的权重形状，然后调用初始化器生成权重；
• 如果你先调用model.summary()，Keras会先构建模型（需要统计参数数量），此时权重就已经完成初始化，后续predict会复用这次初始化的结果；
• model.compile()仅用于配置训练的优化器、损失函数等参数，不会触发权重初始化。

这样修改后，每次重新运行代码，模型的初始权重都会完全一致，预测结果也就可以复现了。

内容的提问来源于stack exchange，提问作者Dmitry Toda