如何在Python中构建与BigQuery完全一致的DNN_REGRESSOR模型

要完全对齐BigQuery（BQ）中创建的DNN回归模型，你需要从优化器配置、训练逻辑、特征处理、随机种子等多个维度完全匹配BQ的默认规则，具体调整如下：

1. 修正优化器和学习率配置 #

你当前使用了Adam优化器且关闭了学习率衰减，但BQ的DNN_REGRESSOR默认使用带指数衰减的AdaGrad优化器，需要补全对应配置：

• 学习率初始值设为0.001，和你的BQ参数对齐
• 补全指数衰减逻辑，TensorFlow 2中可以用兼容接口获取全局训练步数
• 替换优化器为AdaGrad

import tensorflow as tf

# 对齐BQ的学习率衰减规则
def lr_scheduler():
    global_step = tf.compat.v1.train.get_or_create_global_step()
    return tf.keras.optimizers.schedules.ExponentialDecay(
        initial_learning_rate=0.001,
        decay_steps=200, # 匹配BQ默认衰减步长
        decay_rate=0.96, # 匹配BQ默认衰减率
        staircase=True
    )(global_step)

estimator = tf.estimator.DNNRegressor(
    feature_columns=feats,
    hidden_units=[200]*10,
    activation_fn=tf.nn.relu, # 显式指定激活函数和BQ对齐
    optimizer=lambda: tf.keras.optimizers.Adagrad(learning_rate=lr_scheduler()),
    # 显式指定初始化方式对齐BQ默认值
    weight_initializer=tf.keras.initializers.GlorotUniform(),
    bias_initializer=tf.keras.initializers.Zeros(),
    # 固定随机种子保证可复现
    config=tf.estimator.RunConfig(tf_random_seed=42)
)

2. 对齐训练逻辑 #

• 训练时input_fn的batch_size固定为200，和BQ参数一致
• 关闭所有早停逻辑，训练步数和BQ训练时的实际步数完全对齐（可在BQ模型的训练详情页查看总训练步数，传入train方法的steps参数）
• 训练数据的shuffle逻辑和BQ对齐，若BQ训练时没有shuffle则关闭shuffle，若开启则指定相同的随机种子

3. 对齐特征处理 #

你当前对分类变量使用了OneHotEncoder，需要确认和BQ的特征处理逻辑完全一致：

• 所有分类特征的取值范围、独热编码的维度和BQ生成的特征维度完全相同
• 数值特征的归一化/标准化规则和BQ对齐，BQ默认会对数值特征做min-max归一化到[0,1]区间，未做对应处理会直接导致模型结果差异

4. 固定所有随机种子 #

除了estimator配置中的随机种子，还需要固定全局随机种子，避免初始化、shuffle等环节的随机性带来差异：

tf.random.set_seed(42)
import numpy as np
np.random.seed(42)

完成以上调整后，即可得到和BQ中结构、参数、训练逻辑完全一致的DNN模型。

内容的提问来源于stack exchange，提问作者idan