R线性回归强制过第一个点斜率偏低：为何我的直觉存在偏差？

• 首先你的数据本身不存在全局线性趋势：y值随x升高先快速上升，x=3达到峰值后持续下降，属于典型的单峰非线性分布，用直线拟合天然就有系统性偏差，不可能同时适配前半段上升、后半段下降的趋势。
• 其次最小二乘的优化目标和你设置的约束共同压低了斜率：最小二乘回归的核心目标是最小化所有样本的残差平方和，你强制直线过第一个点(x=0,y=3.86)后，模型只能通过调整斜率平衡所有点的误差。你有5个x≥4的样本y值都很低，x=8的y甚至比第一个点的数值还低，如果斜率设置过高，x取值大的样本拟合值会远高于实际值，产生的残差平方会非常大。为了让全局残差平方和最小，模型只能选择更低的斜率，哪怕前半段几个高点的拟合误差更大，这是最小二乘规则下的最优解。

你手动调整的2.5倍斜率只是更贴合你对前半段上升趋势的主观预期，实际上会大幅提升后半段样本的残差，全局残差平方和会比原始模型高很多，从最小二乘的标准来看拟合效果反而更差。

内容的提问来源于stack exchange，提问作者Loulou