目标变量含缺失值的处理方案及KNN插补报错解决咨询

一、报错原因拆解 #

你碰到的ValueError: Input contains NaN, infinity or a value too large for dtype('float64')，核心问题是KNN类工具在拟合阶段无法接受含NaN的输入。你要插补的是目标变量y的缺失，但直接把带NaN的y喂给KNN插补工具肯定会报错——因为KNN需要依赖完整的特征（X）和完整的y样本来学习样本间的相似性，才能给缺失的y补值。

二、正确的KNN插补目标变量流程 #

1. 先拆分数据集（你的思路是对的，必须先拆分避免数据泄露） #

把包含特征X和目标变量y的完整数据集，拆分为训练集（X_train, y_train）和测试集（X_test, y_test），拆分时保留所有含y缺失值的行。

2. 处理训练集的y缺失值 #

• 从训练集中筛选出y无缺失的样本：得到X_train_complete（对应特征）和y_train_complete（对应完整的目标值）
• 用这部分完整数据训练KNN模型：注意这里不用sklearn的KNNImputer（它是给特征插补用的），而是用普通的KNeighborsRegressor（如果y是连续值）或KNeighborsClassifier（如果y是分类值）
• 对训练集中y有缺失的样本：取出对应的特征X_train_missing，用训练好的KNN模型预测y值，把结果填充到y_train的缺失位置

3. 处理测试集的y缺失值 #

• 绝对不能用测试集的数据训练KNN，必须复用训练阶段用X_train_complete, y_train_complete训练好的KNN模型，对测试集中y缺失样本的特征X_test_missing做预测，把结果填充到y_test的缺失位置

三、代码示例（以连续型y为例） #

import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsRegressor

# 假设你的特征矩阵X、目标变量y已准备好，y含NaN
X = ...  # 特征数据，若X本身有缺失，需先单独处理（比如用KNNImputer插补X，且要先拟合训练集再转测试集）
y = ...  # 含缺失值的目标变量

# 1. 拆分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 2. 处理训练集的y缺失
# 筛选训练集中y无缺失的样本索引
train_complete_idx = ~np.isnan(y_train)
X_train_complete = X_train[train_complete_idx]
y_train_complete = y_train[train_complete_idx]

# 训练KNN回归器
knn_reg = KNeighborsRegressor(n_neighbors=5)
knn_reg.fit(X_train_complete, y_train_complete)

# 填充训练集的y缺失值
train_missing_idx = np.isnan(y_train)
y_train[train_missing_idx] = knn_reg.predict(X_train[train_missing_idx])

# 3. 处理测试集的y缺失值
test_missing_idx = np.isnan(y_test)
y_test[test_missing_idx] = knn_reg.predict(X_test[test_missing_idx])

# 此时y_train和y_test已无缺失，可用于后续模型训练

四、额外注意事项 #

• 若特征X本身存在缺失值，需先对X做插补，但必须遵循「用训练集拟合插补器，再分别转换训练集和测试集」的原则，避免数据泄露
• 若y是分类变量，只需把代码中的KNeighborsRegressor替换为KNeighborsClassifier即可
• KNN的邻居数n_neighbors可通过交叉验证调优，避免过拟合或欠拟合

内容的提问来源于stack exchange，提问作者EAdiguzel