单因素方差分析中证明E(MSE)=σ²的技术问询
嘿,我来帮你理清这个证明的思路,先纠正一个关键误区:证明$E(MSE)=\sigma^2$根本不需要用到单因素ANOVA的原假设(即各组均值相等)——这个结论在ANOVA的基础模型假设下就成立,不管各组有没有处理效应。
先帮你梳理推导的正确步骤,同时修正你当前思路里的偏差:
第一步:明确单因素ANOVA的核心模型
我们的观测值满足以下线性模型:
$$y_{ij} = \mu + \alpha_i + \varepsilon_{ij}$$
其中:
- $i=1,2,...,a$(表示$a$个不同的组/因子水平)
- $j=1,2,...,n$(每组有$n$个观测值)
- $\varepsilon_{ij}$是误差项,满足独立同分布,且$\varepsilon_{ij} \sim N(0, \sigma2)$(均值为0,方差为$\sigma2$)
- $\mu$是总体均值,$\alpha_i$是第$i$组的处理效应
第二步:聚焦组内平方和SSE的期望
你已经知道$MSE = \frac{SSE}{a(n-1)}$,所以核心是计算$E(SSE)$。
组内平方和$SSE$的定义是:
$$SSE = \sum_{i=1}^a \sum_{j=1}^n (y_{ij} - \bar{y}i)^2$$
这里的$\bar{y}i = \frac{1}{n}\sum{j=1}^n y{ij}$是第$i$组的样本均值。
现在看单个组的离均差平方和:对于任意一组$i$,$\sum_{j=1}^n (y_{ij} - \bar{y}i)2$其实就是该组样本方差乘以$(n-1)$。而我们知道,对于满足上述误差项假设的样本,**样本方差的期望等于总体方差$\sigma2$**,即:
$$E\left[\frac{1}{n-1}\sum{j=1}^n (y_{ij} - \bar{y}i)^2\right] = \sigma^2$$
两边乘以$(n-1)$就能得到单个组平方和的期望:
$$E\left[\sum{j=1}^n (y_{ij} - \bar{y}_i)^2\right] = (n-1)\sigma^2$$
第三步:计算整体SSE的期望
因为各组的观测是相互独立的,所以多个组的平方和的期望等于各组期望之和:
$$E[SSE] = \sum_{i=1}^a E\left[\sum_{j=1}^n (y_{ij} - \bar{y}i)^2\right] = \sum{i=1}^a (n-1)\sigma^2 = a(n-1)\sigma^2$$
第四步:推导MSE的期望
现在把$E(SSE)$代入MSE的定义:
$$E[MSE] = E\left[\frac{SSE}{a(n-1)}\right] = \frac{E[SSE]}{a(n-1)} = \frac{a(n-1)\sigma^2}{a(n-1)} = \sigma^2$$
纠正你推导中的小问题
你之前写的这一步:
$$E\left(\frac{SSE}{a(n-1)}\right) = \frac{\sum_{i=0}^n(y_i - \bar{y})^2}{n-1}$$
是混淆了单样本的样本方差和ANOVA的MSE,两者没有直接的等式关系,不需要这样关联。另外,你提到想用原假设$\bar{y_i} = \bar{y}$是完全多余的——这个证明和原假设是否成立无关,只依赖于误差项的方差假设。
这样就完整证明了$E(MSE)=\sigma^2$啦。
备注:内容来源于stack exchange,提问作者Chris Kouts

