Sklearn中独热编码与整数输出的模型差异及代码正确性问询

一、两类代码的技术问题 #

• RandomForestClassifier：该模型原生仅支持整数/字符串格式的单标签输入，不接受独热编码的多列标签。若传入独热编码的y_train，模型会将每一列视为独立的二分类任务，执行多输出分类，完全偏离了你原本的12类多分类任务目标，属于错误的训练方式。
• MLPClassifier：sklearn的MLPClassifier在处理多分类任务时，默认适配整数型标签。若传入独热编码标签，必须显式设置multi_class="multilabel-indicator"，否则模型同样会将任务判定为多输出分类，损失函数与优化逻辑均不符合原任务要求，训练逻辑错误。

二、性能差异的核心原因 #

• RandomForest场景：
  • M2采用整数标签，是符合模型要求的正确多分类训练方式，模型学习的是“特征到12个类别”的映射逻辑，匹配任务目标。
  • M1被错误识别为多输出任务，模型需要同时预测12个独立的二分类结果，任务复杂度提升且与原目标不符，自然性能远低于M2。
• MLPClassifier场景：
  • 若M1未设置正确的multi_class参数，训练逻辑错误，性能必然低于正确配置的M2。
  • 即便M1参数设置正确，整数标签的编码方式更简洁，模型计算交叉熵损失时更高效，且避免了独热编码的冗余信息干扰，也会导致M2的性能略优。

内容的提问来源于stack exchange，提问作者Murilo