重启服务器后新进程中LightGBM结果不稳定问题求助

问题背景 #

本地MacBook M2设备上用Flask服务器测试LightGBM模型训练，代码如下：

params = {
    'objective': 'binary',
    'deterministic': True,
    'force_row_wise': True,
    'num_threads': 8,
    'learning_rate': 0.05,
    'max_depth': 3,
    'tree_learner': 'data',
    'boosting_type': 'gbdt',
    'feature_fraction': 0.7,
    'bagging_fraction': 0.8,
    'bagging_freq': 5,
    'verbose': -1,
    'seed': 8,
}
random.seed(8)
np.random.seed(8)

dataset = lgb.Dataset(X, y)
bst = lgb.train(params, dataset, 10, keep_training_booster=True)
trees = bst.dump_model()["tree_info"]

遇到的问题：

• 同一进程内连续运行结果稳定
• 重启Flask服务器后，新进程的训练结果不稳定
• 已尝试设置全局随机种子、禁用并行、查阅官方参数文档，均无效

解决方案 #

1. 补全LightGBM独立随机种子参数
   LightGBM的bagging、feature_fraction等操作有独立的随机种子，仅设置全局seed无法覆盖这些模块。修改参数如下：

params = {
    'objective': 'binary',
    'deterministic': True,
    'force_row_wise': True,
    'num_threads': 8,
    'learning_rate': 0.05,
    'max_depth': 3,
    'tree_learner': 'data',
    'boosting_type': 'gbdt',
    'feature_fraction': 0.7,
    'bagging_fraction': 0.8,
    'bagging_freq': 5,
    'verbose': -1,
    'seed': 8,
    'bagging_seed': 8,  # 固定bagging采样的随机种子
    'feature_fraction_seed': 8,  # 固定特征采样的随机种子
}

2. 提前初始化随机种子
   在Flask应用启动的最早期设置随机种子，确保在导入LightGBM或其他可能修改随机状态的模块之前完成：

# 先设置全局种子
import random
import numpy as np
random.seed(8)
np.random.seed(8)

# 再导入后续模块
import lightgbm as lgb
from flask import Flask

app = Flask(__name__)
# 路由及训练逻辑放在后面

3. 验证数据一致性
   每次进程重启后，检查数据集X、y的哈希值或统计特征（如均值、样本数量），确认数据加载无随机性差异。若数据预处理包含随机操作（如随机拆分、特征扰动），需给这些步骤也固定种子。

4. 确保训练环境纯净
   训练时避免复用旧模型状态，确保lgb.train的init_model参数设为None，同时关闭任何可能引入随机性的调试或动态优化选项。

内容的提问来源于stack exchange，提问作者xxx222