Python Sklearn线性回归输出非预期斜率与截距系数问题咨询
问题本质
你拿到的斜率、截距和预期不符,是因为模型输出的参数是标准化变换后特征空间下的数值,并非原始未缩放X对应的线性方程参数。
逻辑说明
代码中对X做了StandardScaler标准化,这个操作会对输入特征做线性变换,再喂给模型:
任意原始特征值x,进入模型前的变换规则:
$x_{scaled} = (x - 训练集X的均值) / 训练集X的标准差$
模型实际拟合的是标准化空间下的线性关系:y = 模型输出的系数 * 变换后的x + 模型输出的截距
把变换规则代入上式,整理回原始X空间的标准线性形式y = kx + b,可以得到原始空间真实参数的换算方法:
- 原始空间真实斜率k = 模型输出的系数 / 训练集X的标准差
- 原始空间真实截距b = 模型输出的截距 - 模型输出的系数 * 训练集X的均值 / 训练集X的标准差
你感知到模型对所有样本预测准确,是因为标准化是线性变换,不会破坏X和y原本的线性关联。只是你直接拿缩放空间的系数去对应原始X的数值,才会觉得结果不对。代入上面的换算公式计算,最终得到的k必然是2、b必然是1,和你构造的原始线性关系完全一致。
可选解决方式
根据你的实际使用场景选择即可:
- 如果只是做普通无正则的线性回归(这类算法本身对特征尺度不敏感):直接删除
StandardScaler相关的三段代码,把原始格式的X直接送入模型训练,此时输出的coef_和intercept_就是你预期的2和1,不需要额外换算。 - 如果必须保留标准化流程(比如后续要接入带L1/L2正则的线性模型、SVM、神经网络这类对特征尺度敏感的算法):不需要改动标准化逻辑,在拿到模型输出的系数后,结合
sc对象自带的mean_(训练集均值)、scale_(训练集标准差)两个属性,按上面的换算公式计算出原始空间的斜率和截距即可。
另外补充一个直观问题:你当前代码绘图时,X轴用的是经过标准化变换后的X_test,不是原始X的数值,所以图中x轴的刻度范围是标准化后的区间(通常在-2到2之间),和你原始X的0-39范围完全不同,也会进一步放大参数不匹配的感受。
内容的提问来源于stack exchange,提问作者lwashington27
相关产品推荐
相关产品推荐

