意图分类任务中Support Vector Machine（SVM）的替代方案咨询

一、传统机器学习替代方案 #

适合标注数据量小、追求轻量化部署的场景，除SVM外的常用选项：

• 朴素贝叶斯：搭配TF-IDF特征使用，训练速度极快，短文本分类的基线效果稳定，适合快速验证模块可行性
• 逻辑回归：可搭配TF-IDF、N-gram特征，可解释性强，部署成本极低，是工业界小样本场景的常用选型
• 集成学习模型（随机森林/XGBoost/LightGBM）：抗过拟合能力优于单模型，可自动处理特征关联，不需要复杂的人工特征工程

二、深度学习方案 #

标注数据量达到数千条以上时优先选择，泛化能力远优于传统机器学习方案：

• TextCNN：轻量级卷积模型，捕捉短文本n-gram特征的效率极高，训练和推理速度快，适配聊天机器人低延迟的需求
• LSTM/GRU：循环神经网络类模型，可捕捉文本的上下文时序信息，对语序关联度高的意图识别效果更好
• BERT类预训练模型：通用预训练的BERT、RoBERTa，或是垂直领域微调后的预训练模型，微调后效果处于当前第一梯队，仅数百条标注数据即可做小样本微调，是当前工业界聊天机器人意图分类模块的主流选型
• 小样本学习方案：标注数据极少时可选择提示学习（Prompt Learning）、对比学习类方法，不需要大量标注即可拿到可用效果

三、现成工具/框架 #

不需要从零实现的前提下，可直接使用成熟工具链快速落地：

• Rasa：开源对话系统框架，内置意图分类模块，支持自定义配置传统模型、深度学习模型，也支持接入预训练大模型，和关联数据（Linked Data）、知识图谱类场景的适配性较好
• Hugging Face Transformers：封装了几乎所有主流的预训练NLP模型，仅需数行代码即可加载、微调BERT类模型实现意图分类，适合快速迭代
• spaCy：工业级NLP库，自带文本分类管道，配置简单，部署速度快，适配生产环境的性能要求
• 公有云对话平台：主流云厂商的智能对话服务均提供开箱即用的意图识别接口，不需要自行训练模型，仅需上传标注好的意图样本即可调用，适合小团队快速上线业务

内容的提问来源于stack exchange，提问作者NShini