基于NLTK的文本分类器测试集指标正常但手动输入全判负的问题

核心原因：训练/测试样本与手动输入样本的特征分布不匹配，而非模型训练错误 #

1. 特征集的选择逻辑是关键 #

很多教程里会基于整个语料库的词频筛选Top N特征（比如Top 2000高频词），只有这些词会被纳入特征向量。你手动输入的outstanding这类词，可能因为在1000正1000负的语料库中总出现次数太少，根本没进入特征列表。这时候模型接收到的是全0的特征向量，而训练数据里这类无有效特征的样本可能更多对应负类，或者模型默认对未知特征样本偏向负类，导致99%+置信度判负。

验证方法：直接打印你的特征词列表，搜索outstanding是否存在。如果不在，要么扩大特征词数量，要么换用信息增益、卡方检验这类更偏向分类贡献的特征选择方法，而不是单纯看词频。

2. 文本预处理没做到前后一致 #

训练时的影评肯定做了标准化处理：比如转小写、去标点、分词、去停用词、词干/词形还原。但你手动输入时如果直接打Outstanding!，没做同样的预处理，模型会把它当成一个从未见过的特征，同样触发全0向量的逻辑，直接判负。

解决：手动输入的文本必须严格复现训练时的预处理流程，比如先转成小写、去掉标点、用NLTK的分词器拆分、去掉停用词之后，再输入模型做预测。

3. 模型的概率平滑机制影响 #

以NLTK常用的朴素贝叶斯分类器为例，它会用拉普拉斯平滑处理未见过的特征。当输入文本几乎没有匹配的特征时，平滑后的概率计算会偏向训练数据中“无特征”样本占比更高的类别——哪怕正负样本总数相等，负类的低频次特征分布可能更密集，导致模型默认输出负类的高置信度。

为什么测试集指标正常？ #

测试集的样本和训练集是同分布的：都是完整影评，包含大量特征集中的词，特征向量维度充足，模型能正常匹配训练时学到的规律，所以TPR、TNR等指标表现良好。而手动输入的单个词/短文本属于分布外样本，模型从未在训练中见过这种特征稀疏的情况，自然输出异常结果。

内容的提问来源于stack exchange，提问作者Iwakura Lain