客户邮件分类的数据标注方法及Embedding预处理咨询

一、Embedding生成前的文本预处理方案 #

• 清洗冗余内容：移除邮件中的固定签名、自动回复模板、邮件头冗余信息（重复的发件人/时间字段）、HTML标签（富文本邮件），仅保留客户核心反馈内容。
• 标准化文本格式：
  • 统一转为小写，消除大小写对Embedding的干扰；
  • 替换口语化缩写与特殊符号，比如将"can't"转为"cannot"，"won't"转为"will not"，移除无意义的连续标点（如!!!、---）；
  • 纠正行业常见拼写错误，可借助textblob工具或自定义业务场景拼写词典。
• 行业术语归一化：针对业务场景构建术语映射表，比如把"食材变质""菜不新鲜"统一映射为"食品质量异常"，"扣款失败""重复扣费"统一映射为"支付异常"，减少语义歧义。
• 过滤噪声词汇：过滤通用停用词（如"的""了""我"），同时移除数据集中出现频次低于5次的低频词，降低无效信息干扰。
• 核心内容提取：对长邮件拆分句子，提取包含"问题""投诉""无法""请求"等关键词的核心诉求句，避免无关内容影响Embedding质量。

二、优化的标注方法（适配未知类别场景） #

1. 迭代式标注+类别归纳 #

• 先随机抽取200-300份样本做初步标注，标注过程中实时记录新出现的类别，形成初始类别清单；
• 用初始清单标注下一批100-200份样本，遇到无法匹配的内容时新增类别并更新清单；
• 重复上述步骤，直到连续3批样本无新类别出现，此时类别体系基本稳定。

2. 规则预分组辅助标注 #

• 通过关键词规则先做预分组：含"变质""过期""不新鲜"的归为临时食品问题组，含"扣费""退款""支付失败"的归为临时支付问题组，剩余内容归为待确认组；
• 优先标注临时组样本，快速锁定核心类别，再处理待确认组挖掘边缘类别。

3. 改进聚类辅助标注 #

• 替换通用Embedding模型：使用针对客服邮件微调的BERT模型生成Embedding，提升语义匹配精度；
• 聚类前降维：用PCA或t-SNE将高维Embedding降维至20-50维，降低噪声；
• 更换聚类算法：采用DBSCAN替代K-Means，无需预先指定类别数，根据样本密度自动识别簇；
• 聚类后校准：对每个簇抽取10-20份样本核查，合并语义相似的簇，拆分混杂簇，再开展标注。

4. 交叉标注校准 #

• 安排2-3名标注人员对同一批样本标注，用Cohen's Kappa系数统计一致性；
• 对标注不一致的样本集中讨论，明确类别定义，形成统一标注指南，减少主观偏差。

内容的提问来源于stack exchange，提问作者AMIT KUMAR UPADHYAY