为何线性回归的似然分布始终为高斯分布?(基于《Statistical Rethinking》4.2节)
为什么线性回归的似然分布始终是高斯分布?
嘿,这个问题抓得特别准——其实这里的“始终”是有明确语境的,咱们结合《Statistical Rethinking》第4章的贝叶斯框架来拆解:
先锁定作者的前提:本章是把线性回归作为基础贝叶斯模型来介绍的,这里说的“始终”特指经典贝叶斯线性回归的标准设定,不是所有带线性预测器的模型都必须用高斯似然。作者在引言里提到的概率视角,核心是围绕“观测误差”的假设展开的。
高斯似然的核心逻辑:
线性回归的本质是用线性组合β₀ + β₁x₁ + ... + βₖxₖ来预测观测值y,但现实中观测总会存在误差。如果我们假设这些误差是独立同分布的高斯分布(均值为0,方差固定),那么观测值y自然就服从以线性预测值为均值的高斯分布——这就是似然分布的来源。
这种假设不是拍脑袋来的:一方面高斯分布的对称性、单峰性很贴合很多真实世界的观测误差特征;另一方面中心极限定理也给了支撑——很多独立小误差叠加后会趋近高斯分布;更重要的是,高斯似然和正态先验是共轭对,贝叶斯推断的计算会非常高效,这也是它成为默认选择的关键原因。补充:别把“始终”绝对化:
作者说“始终”是因为本章聚焦的是基础线性回归,而实际上当你处理不同类型的数据时(比如计数数据、二元分类数据),线性回归的似然可以换成泊松分布、伯努利分布等——这些就属于广义线性模型(GLM)的范畴了,作者大概率会在后续章节展开讲这些变种。
内容的提问来源于stack exchange,提问作者gc5
相关产品推荐
相关产品推荐

