多元线性回归实现中成本曲线空白、输出NaN的汽车价格预测问题
多元线性回归实现中梯度下降输出NaN、代价曲线空白的排查方案
梯度全为NaN、最终代价为NaN的核心触发原因
- 特征预处理环节的异常值传导
- 带单位字段清洗不彻底:
mileage、engine字段做字符串拆分转数值时,若未识别占位符类非数值内容(比如缺失值标记、单位残留字符),直接强制类型转换会得到inf或NaN值,这类值进入后续计算会持续传播,最终将迭代的模型参数替换为NaN。 - Z-score标准化计算逻辑错误:截距项全1列被错误纳入标准化流程,由于该列均值为1、标准差为0,计算时会触发除以0的异常,直接输出inf值;若某一原始特征列所有取值完全相同,同样会出现标准差为0的计算错误,引发数值异常。
- 带单位字段清洗不彻底:
- 梯度下降实现的逻辑bug
- 矩阵维度不匹配:手动实现梯度计算时,若X矩阵转置方向错误、预测值与真实值的差值维度未对齐,矩阵乘法会输出形状不匹配的异常值,直接覆盖参数theta的有效数值。
- 数值溢出触发NaN传播:即使设置alpha=0.01,若特征值未完成全量标准化,梯度的量级会远大于参数的合理范围,数值计算过程中溢出为无穷大,最终参数迭代为全NaN。
训练代价曲线为空白的触发原因
- 代价记录序列存在全NaN值:第一轮迭代计算出NaN代价后,后续所有迭代步骤的代价值都会被同步写入为NaN,matplotlib绘制曲线时会自动跳过存在NaN的序列,由于没有有效数值点,最终输出无内容的空白画布。
- 绘图流程存在逻辑错误:比如未显式调用
plt.plot()传入迭代轮次与代价数组、将曲线颜色设置为与画布背景一致的纯白色、画布尺寸参数设置为0,都会导致即使有有效代价值,也无法在图面显示出曲线。
分步修正指南
- 预处理阶段增加校验逻辑
- 对所有转换为数值的特征列,通过
np.isfinite()逐值检查,将检测到的inf、NaN值用对应列的均值填充或直接剔除包含异常值的样本行。 - 构造完带截距项的特征矩阵后,单独对原始数值特征执行Z-score标准化,跳过截距项列,同时过滤所有取值完全相同的常量特征,从根源避免除以0的计算异常。
- 对所有转换为数值的特征列,通过
- 梯度下降环节增加过程校验
- 每轮迭代计算完梯度后,先判断梯度值是否为有限数,若出现inf或NaN立刻中断迭代,打印当前特征、参数、梯度的具体数值定位问题位置。
- 对齐标准批量梯度下降的实现逻辑:
- 正确的代价函数计算逻辑:
J(theta) = (1/(2*m)) * np.sum((X @ theta - y)**2) - 正确的参数更新逻辑:
theta = theta - alpha * (1/m) * X.T @ (X @ theta - y)
- 正确的代价函数计算逻辑:
- 绘图环节增加调试步骤
- 打印代价记录列表的前5项数值,确认存在非NaN的有效观测值后再执行绘图操作。
- 显式设置坐标轴取值范围,确保绘图接口传入的数组维度与预期一致。
内容的提问来源于stack exchange,提问作者Shasta A
相关产品推荐
相关产品推荐

