Scikit-learn IterativeImputer不收敛问题求解：参数调整无效

一、先修正分类变量的类型与填充逻辑 #

• 先定位所有被误转为float64的分类列：根据业务逻辑、列名或唯一值数量判断，手动将其转回分类类型，比如执行df['category_col'] = df['category_col'].astype('category')。
• 分类变量不能直接用LinearRegression这类数值估算器处理，需单独处理：
  • 低基数分类列（唯一值少）：先用SimpleImputer(strategy='most_frequent')填充缺失值，再通过OneHotEncoder或OrdinalEncoder完成编码。
  • 高基数分类列：可改用RandomForestClassifier作为迭代填充的估算器，或先将分类特征转为数值特征（比如目标编码）后再参与迭代。

二、调整IterativeImputer参数促进收敛 #

• 提升迭代次数：当前max_iter=10对于12k行×800+列的数据集可能不足，尝试调至20、30甚至50，同时可降低收敛阈值tol=1e-4（默认1e-3），让模型更容易判定达到稳定状态。
• 更换鲁棒性更强的估算器：LinearRegression对多重共线性、异常值敏感，换成BayesianRidge（自带正则化，适配高维数据）或RandomForestRegressor（树模型不依赖线性假设，拟合复杂关系更稳定）。
• 优化特征选择范围：调整n_nearest_features，比如尝试更小的值（如5）减少特征干扰，或更大的值（如20）利用更多关联信息；也可直接移除该参数，让模型使用全部特征（注意高维下计算耗时会增加）。
• 更换初始填充策略：若most_frequent效果不佳，数值列可改用mean或median做初始填充，更合理的初始值能降低后续迭代的波动。

三、辅助优化策略 #

• 降维/特征选择：810列的高维数据易引发多重共线性，先通过方差过滤、SelectKBest做特征选择，或用PCA降维，减少冗余特征后再做迭代填充，降低计算复杂度。
• 处理数值列异常值：异常值会干扰线性模型拟合，先通过四分位法或Z-score检测并截断、替换异常值，让数据分布更稳定。
• 分批次处理：若内存或计算压力过大，可拆分数据集为若干批次迭代填充，但需保证批次间的特征分布一致性。

内容的提问来源于stack exchange，提问作者Noomkwah