针对伯努利聚合数据，如何为加权MSE确定合适权重？

核心问题梳理 #

你当前的矛盾点在于：

• 未加权MSE完全忽略样本量差异，无法反映数据点的精度；
• 直接用样本量加权会让极端大样本量的数据点过度主导结果；
• 标准逆方差加权在频率为0/1或样本量n=1时会出现方差为0的无效情况。

结合你的场景（observed是伯努利0/1个体数据聚合的频率，且有原始个体数据），以下是几种可行的解决方案：

方案1：基于原始个体数据计算MSE（最推荐） #

既然你有原始个体数据，直接回到个体层面计算MSE是最贴合MSE定义的方式——MSE本质是所有个体预测误差的平方均值，而频率是个体数据的聚合，展开后计算能天然规避样本量加权的争议。

实现代码（R） #

假设你已经有原始数据框raw_df，包含individual_observed（0/1值）和predicted（对应群体的预测频率，同一个群体的个体共享同一个预测值），或者从现有聚合数据展开：

# 从聚合数据展开为个体数据
library(tidyr)
individual_df <- df %>%
  uncount(sample_size, .remove = FALSE) %>%
  # 生成个体观测值：根据observed频率还原个体0/1数据
  mutate(individual_observed = case_when(
    observed == 1 ~ 1,
    observed == 0 ~ 0,
    TRUE ~ sample(c(0,1), size = n(), replace = TRUE, prob = c(1-observed, observed))
  ))

# 计算个体层面的MSE
mse_individual <- mean((individual_df$individual_observed - individual_df$predicted)^2)

注：如果原始数据已经存在，直接用原始数据计算即可，无需模拟个体观测值。

方案2：修正的逆方差加权（聚合数据场景） #

如果必须基于聚合数据计算，针对伯努利频率的方差问题，可以用伪计数调整解决0/1频率的方差无效问题：

• 对频率为p = k/n的群体，调整为p' = (k + 1)/(n + 2)（加1个伪阳性和1个伪阴性），避免p=0或1时方差为0；
• 调整后的方差为var' = p'(1-p')/n，用1/var'作为权重计算加权MSE。

实现代码（R） #

# 计算调整后的频率和方差
df <- df %>%
  mutate(
    k = observed * sample_size, # 原始阳性数
    p_adj = (k + 1)/(sample_size + 2),
    var_adj = p_adj * (1 - p_adj)/sample_size,
    weight = 1/var_adj
  )

# 计算修正逆方差加权的MSE
mse_inv_var <- weighted.mean(df$sq_err, df$weight)

方案3：稳健样本量加权（平衡极端值） #

如果担心极端样本量的影响，可以对样本量做稳健转换，降低大样本量的权重占比，同时保留样本量的信息：

• 常用转换方式：平方根转换（sqrt(sample_size)）、对数转换（log(sample_size + 1)），或者设置样本量上限（比如超过30的样本量统一按30计算）。

实现代码（R） #

# 平方根转换权重
mse_weighted_sqrt <- weighted.mean(df$sq_err, sqrt(df$sample_size))

# 截断样本量（上限30）
df <- df %>% mutate(sample_size_trunc = pmin(sample_size, 30))
mse_weighted_trunc <- weighted.mean(df$sq_err, df$sample_size_trunc)

方法对比 #

内容的提问来源于stack exchange，提问作者PhelsumaFL