平方损失下条件泊松分布参数λ的贝叶斯估计求解
我来一步步帮你拆解这个问题哈:
已知条件梳理
- 给定$\Lambda=\lambda$时,观测值$X|\Lambda=\lambda$服从均值为$\lambda$的泊松分布;如果是n个独立观测值的话,$\sum X_i|\Lambda=\lambda$服从参数为$n\lambda$的泊松分布
- $\Lambda$的先验分布$\pi(\lambda)$是伽马分布,概率密度函数为:
$$\pi(\lambda)=\frac{\lambda{\tau-1}e{-\frac{\lambda}{\mu}}}{\Gamma(\tau)\mu^\tau}$$
(这个先验是形状参数为$\tau$、尺度参数为$\mu$的伽马分布,记作$\Lambda \sim Gamma(\tau, \mu)$)
后验分布已知结论
题目已经给出,当有n个观测值$\sum x_i$时,$\Lambda|X$的后验分布为:
$$\Lambda|X \sim Gamma\left(\tau+\sum x_i, \left(\frac{1}{\mu} + n\right)^{-1}\right)$$
这里的参数形式是形状参数为$\alpha=\tau+\sum x_i$,尺度参数为$\sigma=\left(\frac{1}{\mu}+n\right)^{-1}$;如果用速率参数表述的话,就是$\beta=\frac{1}{\sigma}=\frac{1}{\mu}+n$
平方损失下的贝叶斯估计推导
在平方损失函数$L(\lambda, \hat{\lambda})=(\lambda-\hat{\lambda})^2$下,贝叶斯估计的核心规则是:取后验分布的期望作为估计值,也就是$\hat{\lambda}_{Bayes}=E[\Lambda|X]$
而伽马分布$Gamma(\alpha, \beta)$(形状$\alpha$,速率$\beta$)的期望是$\frac{\alpha}{\beta}$,代入我们的后验参数:
- $\alpha=\tau+\sum x_i$
- $\beta=\frac{1}{\mu}+n$
直接计算期望就能得到贝叶斯估计:
$$
\hat{\lambda}_{Bayes} = \frac{\tau+\sum x_i}{\frac{1}{\mu}+n} = \frac{\mu(\tau+\sum x_i)}{1+n\mu}
$$
如果把式子拆成加权平均的形式,会更直观:
$$
\hat{\lambda}_{Bayes} = \frac{n\mu}{1+n\mu} \cdot \bar{x} + \frac{1}{1+n\mu} \cdot \tau\mu
$$
这里$\bar{x}=\frac{\sum x_i}{n}$是样本均值,$\tau\mu$是先验分布$Gamma(\tau, \mu)$的期望——说白了,这个贝叶斯估计就是样本均值和先验均值的加权组合,权重由样本量n和先验的尺度参数μ共同决定。
内容的提问来源于stack exchange,提问作者EllipticalInitial

