如何证明简单线性回归中R²的最大值恒小于1？

好的，咱们一步步来严谨证明这个论断，先把前提、定义和逻辑理清楚：

1. 明确前提与核心定义 #

首先，我们讨论的是简单线性回归模型：
$$y_i = \beta_0 + \beta_1 x_i + \epsilon_i \quad (i=1,2,...,n)$$
其中关键前提是：存在至少一对观测值 $(x_k, y_k)$ 和 $(x_m, y_m)$，满足 $x_k = x_m = x_0$，但 $y_k \neq y_m$（也就是你说的“重复的不同观测值”）。

按照你给出的公式，$R^2$ 的定义是：
$$R^2 = 1 - \frac{SSR}{SST}$$
这里的符号需要明确：

• $SST = \sum_{i=1}^n (y_i - \bar{y})^2$：总平方和，只要观测值的 $y$ 不全相等（这是有意义的回归场景的基本前提），$SST$ 就大于0。
• $SSR = \sum_{i=1}^n (y_i - \hat{y}_i)^2$：残差平方和，其中 $\hat{y}_i = \hat{\beta}_0 + \hat{\beta}_1 x_i$ 是回归直线对第 $i$ 个样本的预测值。

2. 问题等价转化 #

要证明 $R^2 < 1$，我们可以把公式变形一下：
$$R^2 < 1 \iff \frac{SSR}{SST} > 0$$
因为 $SST > 0$，所以这个等价关系成立。也就是说，我们只需要证明 残差平方和 $SSR$ 一定大于0 就行。

3. 反证法证明 $SSR > 0$ #

我们用反证法来推导：
假设 $SSR = 0$，那么根据平方和的性质，每一项残差都必须为0，也就是对所有 $i$，都有 $y_i = \hat{y}_i$——换句话说，所有观测点都完美落在回归直线上。

但根据我们的前提，存在两个观测点共享同一个 $x$ 值 $x_0$，但 $y$ 值不同（$y_k \neq y_m$）。而回归直线对 $x_0$ 的预测值只有一个：$\hat{y}_0 = \hat{\beta}_0 + \hat{\beta}_1 x_0$，也就是说 $\hat{y}_k = \hat{y}_m = \hat{y}_0$。

如果这两个点都落在回归直线上，那必须满足 $y_k = \hat{y}_0$ 且 $y_m = \hat{y}_0$，这就意味着 $y_k = y_m$，直接和我们的前提矛盾。

所以“$SSR=0$”这个假设不成立，因此 $SSR > 0$。

4. 最终结论 #

因为 $SSR > 0$ 且 $SST > 0$，所以 $\frac{SSR}{SST} > 0$，代入 $R^2$ 的公式可得：
$$R^2 = 1 - \frac{SSR}{SST} < 1$$

简单总结一下：当有重复的 $x$ 对应不同的 $y$ 时，同一个 $x$ 只能有一个预测值，不可能同时匹配两个不同的 $y$，必然存在非零残差，导致残差平方和大于0，最终 $R^2$ 就不可能达到1。

内容的提问来源于stack exchange，提问作者Macterror