基于NLP的商品描述长文本分类模型选型技术咨询

工业界做这类商品类目分配不会盲目追新模型，核心是按数据量、类目粒度、算力资源选性价比最高的方案，优先级从高到低排：

• 第一优先级（冷启动/快速上线/绝大多数常规场景首选）：fastText、6层以下的轻量预训练语言模型（比如MiniLM-L6、DistilBERT、中文场景可选Ernie-Tiny）
  • fastText是被很多人低估的选项，对商品描述里混杂的营销词、参数、乱码这类脏数据容忍度极高，训练和推理速度是大模型的上百倍，部署不需要GPU，只要你的类目是三级以内、总类目数不超过1000，清洗完数据做n-gram特征，准确率很容易摸到85%以上的基线，至今不少中大型电商平台的分类系统还在拿它当主力模型。
  • 如果需要区分相似度很高的细分类目，轻量预训练模型只需要用你自己的标注商品数据做简单微调，准确率能比fastText高5-10个百分点，配合INT8量化优化，单张CPU卡每秒就能处理上千条请求，完全能满足线上业务的QPS要求。
• 第二优先级（细分类目/准确率要求>92%的场景）：12层左右的领域预训练微调模型（通用场景用BERT-base/MacBERT-base，中文电商场景可选公开的电商领域预训练权重）
  • 这类模型不需要从零开始训练，拿领域预训练权重用自有标注数据微调即可。如果商品描述长度超过模型默认的512token上限，不用硬换长文本大模型，用滑动窗口切分文本做均值池化就能覆盖绝大多数有效信息；如果商品同时带图片信息，搭配CLIP提取图像特征做图文融合，准确率还能再提3-5个百分点。
• 第三优先级（亿级商品规模/新类目频繁迭代的场景）：大模型仅作为辅助工具使用，不要直接上线做实时推理
  • 通用大模型适合做零样本/少样本的难例兜底、新类目冷启动阶段的弱标注数据生成，用大模型产出的标注数据反哺前面的轻量模型训练，性价比远高于直接把大模型部署成线上分类服务——后者的推理成本是轻量模型的数百倍，延迟也很难满足线上实时调用的要求。

落地避坑 #

• 不要一上来就堆大模型，90%的商品分类场景，用fastText跑通基线，再叠轻量预训练模型处理fastText判不准的难例，准确率就能做到90%以上，完全满足业务需求。
• 提前用简单规则清洗商品描述里的无效噪声：比如重复的营销话术、表情符号、无关的跳转提示、乱码，这一步带来的准确率提升，往往比换更复杂的模型效果还好。
• 如果你的类目是层级结构（一级->二级->三级），不要直接做扁平多分类，改成分层预测：先判一级类目，再在对应一级类目的候选范围内判二级类目，以此类推，不仅准确率更高，错分样本的排查和迭代也更方便。

内容的提问来源于stack exchange，提问作者Linear17