为何设置随机种子后仍无法复现TensorFlow模型训练结果？

你只设置tf.random.set_seed(42)不足以完全固定所有随机源，导致每次训练结果不一致。要实现完全可复现，需要覆盖所有可能引入随机性的环节，具体操作如下：

1. 覆盖所有随机种子源 #

在代码最开头添加以下种子设置，确保Python、NumPy和TensorFlow的随机生成器都固定：

import random
import numpy as np
import tensorflow as tf

# 设置Python全局随机种子
random.seed(42)
# 设置NumPy随机种子
np.random.seed(42)
# 设置TensorFlow随机种子
tf.random.set_seed(42)

2. 禁用GPU的不确定性计算（如果使用GPU） #

GPU的并行计算框架（如cuDNN）可能引入随机性，需添加以下配置强制确定性运算：

# 强制TensorFlow使用确定性操作
tf.config.experimental.enable_op_determinism()

注：如果你的Colab环境使用CPU，这一步可以省略，但添加后也不会有负面影响。

3. 固定训练数据的顺序 #

Keras的model.fit()默认会在每个epoch打乱训练数据（shuffle=True），这也是结果波动的原因之一。如果不需要打乱数据，直接设置shuffle=False；如果需要打乱但要固定顺序，确保前面的种子已经设置即可（shuffle的随机性依赖全局种子）。修改你的fit代码：

model_1.fit(X_train, y_train, epochs=100, shuffle=False)

4. 完整可复现代码示例 #

整合以上所有步骤后的完整代码如下：

import random
import numpy as np
import tensorflow as tf

# 1. 固定所有随机种子
random.seed(42)
np.random.seed(42)
tf.random.set_seed(42)
tf.config.experimental.enable_op_determinism()

# 2. 创建模型
model_1 = tf.keras.models.Sequential([
    tf.keras.layers.Dense(1, input_shape=[1])
])

# 3. 编译模型
model_1.compile(loss=tf.keras.losses.mae,
                optimizer=tf.keras.optimizers.SGD(),
                metrics=["mae"])

# 4. 训练模型（固定数据顺序）
model_1.fit(X_train, y_train, epochs=100, shuffle=False)

# 5. 预测与评估
y_pred = model_1.predict(X_test)
mae = tf.metrics.mean_absolute_error(y_true=y_test,
                                     y_pred=tf.squeeze(tf.constant(y_pred)))
print(f"MAE: {mae.numpy()}")

关键说明 #

• 所有种子设置必须放在模型创建、数据加载/处理之前，否则无法生效。
• tf.config.experimental.enable_op_determinism()会强制TensorFlow的所有操作使用确定性实现，代价是可能略微降低训练速度，但能保证结果完全一致。
• 如果你的数据集是动态划分的（比如用train_test_split），也要确保划分时设置random_state=42，固定划分结果。

内容的提问来源于stack exchange，提问作者user1479670