基于分类特征的比赛结果二分类ML模型训练优化咨询

数据集 #

任务说明 #

预测目标列为 Result，属于二分类任务，取值为 Won 或 Lost，模型输入特征仅包含分类字段 Team、Opponent、Ground，可按以下方案优化模型效果：

• 优化分类特征编码与交叉特征构建
  不要仅对三个特征做简单独热编码，优先做高信息密度的特征处理：
  1. 构建交叉组合特征：新增 Team-Opponent（对阵组合）、Team-Ground（队伍-场地组合）、Opponent-Ground（对手-场地组合）三类交叉特征，直接捕捉对阵双方的历史对阵规律、队伍场地适应特性
  2. 编码选择：如果类别量级不大（队伍数、场地数均低于50）可以用独热编码；如果类别较多，优先用带平滑的目标编码，或者直接用原生支持分类特征的模型避免编码信息损失
• 衍生历史统计类分类特征
  基于历史比赛数据提前统计衍生特征，均属于分类维度的统计量，符合仅用分类变量相关信息的要求：
  1. 统计指定 Team 对阵指定 Opponent 的历史总胜场数、胜率
  2. 统计指定 Team 在对应 Ground 的历史总胜场数、胜率
  3. 统计指定 Opponent 在对应 Ground 的历史总负场数、负率
• 选择对分类特征友好的模型
  不要用逻辑回归这类对输入编码要求高的线性模型，优先选择树类模型：
  1. 首选 CatBoost：原生支持分类特征输入，无需手动编码，内部会自动处理类别特征的组合与编码，对小数据集也有不错的鲁棒性
  2. 次选 LightGBM/XGBoost：将分类特征设为类别类型后直接输入，模型会自动做最优分箱处理，训练速度快且效果稳定
• 控制过拟合提升泛化能力
  仅用分类特征训练极易出现过拟合，需做以下优化：
  1. 目标编码时加入交叉验证平滑、拉普拉斯平滑，避免泄露测试集信息
  2. 树模型训练时设置最大深度、叶子节点数、L1/L2正则项，用验证集做早停
• 先做规则基准验证任务天花板
  先实现最简单的规则预测：直接取历史上该Team对阵该Opponent在对应Ground的更多出现的结果作为预测值，计算该规则的准确率作为基准。如果你的模型准确率和基准差距不大，说明该任务本身的不确定性较高（体育比赛本身不可控因素多），已经接近性能上限。

内容的提问来源于stack exchange，提问作者omdurg