基于MNIST训练的KNeighborsClassifier对相似数字8图像预测结果不一致

该样本的数字8被模型预测为2，另一张高度相似的数字8样本则被正确预测为8：

差异原因 #

• 你使用的KNeighborsClassifier(n_neighbors=30)属于基于像素距离匹配的惰性分类器，对像素级的微小变化敏感度远高于人眼：哪怕两个数字肉眼看起来几乎一致，只要笔画的倾斜度、粗细、边缘像素灰度存在细微差异，就会大幅改变特征向量的计算距离，进而影响近邻匹配结果。
• 30的K值设置偏大，分类投票阶段容易受非核心特征的干扰：误判的8样本的上半部分圆弧特征大概率和训练集中部分手写2的特征重合度更高，在30个近邻的投票中2的占比超过了8，最终输出错误结果。
• MNIST训练样本均为28x28低分辨率灰度图，特征表达能力有限，轻微的像素偏移就可能导致核心特征的匹配优先级发生变化。

优化建议 #

• 适当降低K值到3~10区间，减少无关近邻的投票干扰；
• 给KNN添加距离权重参数，设置weights='distance'，让距离更近的近邻拥有更高投票权重，降低远距离相似样本的影响；
• 推理前对输入图像做和训练集一致的预处理：包括居中对齐、灰度归一化、去噪等，缩小输入样本和训练样本的特征分布差异。

内容的提问来源于stack exchange，提问作者sunny