LightGBM LGBMClassifier拟合报错：TypeError: boosting_type参数类型异常

问题描述 #

基于纽约出租车时长数据集构建LightGBM预测模型，采用两种方式实现：

• 使用LGBMClassifier执行fit/predict
• 使用lgb.train执行训练预测

其中第二种方式训练正常，但第一种调用fit方法时触发TypeError: Unknown type of parameter:boosting_type, got:dict，同时存在数据维度相关的ValueError。

错误分析 #

• 参数传递方式错误：LGBMClassifier是sklearn风格API，需将参数作为关键字参数传入，原代码直接传递整个字典作为第一个位置参数，导致boosting_type被识别为字典类型，触发类型错误。
• 任务类型不匹配：当前任务是回归（预测连续型的trip_duration），但误用了分类器LGBMClassifier，应使用回归器LGBMRegressor，这会引发后续维度与目标类型不匹配的错误。
• 参数不兼容：param_grid包含lgb.train专用参数（如num_boost_round）和sklearn接口不需要的参数（如eval_set），这些参数在sklearn接口中无效，会引发错误。
• 数据集定义错误：原代码中lgb_y_train = lgb.Dataset(y_train)是错误的，Dataset需同时传入特征和标签，且sklearn接口无需提前构建Dataset，直接传入原始数组即可。

修复方案 #

1. 匹配任务类型：将LGBMClassifier替换为LGBMRegressor，适配回归任务。
2. 正确传递参数：使用**param_grid解包字典，将键值对转为关键字参数传入sklearn模型。
3. 清理无效参数：移除param_grid中sklearn接口不兼容的参数，如num_boost_round（sklearn用n_estimators控制迭代次数）、eval_set（需在fit方法中单独传入）。
4. 修正数据集逻辑：lgb.train需正确构建Dataset（传入特征和标签），sklearn接口直接使用原始特征和标签数组。

完整修复代码 #

import lightgbm as lgb

# 假设X_train、X_test、y_train、y_test已完成数据预处理
# 清理后的参数：移除sklearn接口不兼容的项
param_grid = {
    'boosting_type': 'gbdt',
    'n_estimators': 50,
    'objective': 'regression',
    'num_leaves': 5,
    'class_weight': 'balanced',
    'colsample_bytree': 1.0,
    'importance_type': 'gain',
    'learning_rate': 0.001,
    'max_depth': -1,
    'min_child_samples': 20,
    'min_child_weight': 0.001,
    'min_split_gain': 0.0,
    'n_jobs': -1,
    'verbose': 0,
    'random_state': 42,
    'reg_alpha': 0.0,
    'reg_lambda': 0.05,
    'subsample': 1.0,
    'subsample_freq': 0,
    'min_data': 1,
    'force_row_wise': True
}

# 方式1：sklearn风格回归模型
light_model = lgb.LGBMRegressor(**param_grid)
# 在fit方法中传入评估集
light_model_fit = light_model.fit(
    X_train, y_train,
    eval_set=[(X_test, y_test)],
    verbose=0
)
light_model_pred = light_model_fit.predict(X_test)

# 方式2：lgb.train原生接口
lgb_train = lgb.Dataset(X_train, label=y_train)
lgb_eval = lgb.Dataset(X_test, label=y_test, reference=lgb_train)
# 传入num_boost_round参数
light_model_trained = lgb.train(
    param_grid,
    lgb_train,
    num_boost_round=param_grid['n_estimators'],
    valid_sets=[lgb_eval],
    verbose_eval=0
)
light_model_trained_pred = light_model_trained.predict(X_test)

内容的提问来源于stack exchange，提问作者Data Science Analytics Manager