Scikit Learn中KernelDensity模型评估与GridSearchCV调参疑问

一、评估KDE拟合潜在分布的方法 #

当没有真实PDF作为基准时，可以用以下几种方法判断模型拟合效果：

1. 测试集对数似然 #

用拆分好的测试集数据，代入训练好的KDE模型，计算每个样本的对数密度值，再取平均值。这个值越高，说明模型对测试数据的拟合越好——因为真实分布中出现的样本，在模型给出的PDF中应该有更高的概率，对数形式下数值也就更大。

实现示例：

from sklearn.neighbors import KernelDensity
import numpy as np

# 拆分训练/测试集
x = np.random.normal(size=1000)
x_train, x_test = np.split(x, [800])

# 训练KDE模型
kde = KernelDensity(bandwidth=0.3, kernel='gaussian')
kde.fit(x_train.reshape(-1, 1))

# 计算测试集平均对数似然
log_densities = kde.score_samples(x_test.reshape(-1, 1))
mean_log_likelihood = np.mean(log_densities)
print(f"测试集平均对数似然: {mean_log_likelihood:.4f}")

2. 交叉验证似然估计 #

如果样本量不大，拆分训练测试集会浪费数据，这时可以用k折交叉验证：把数据集分成k份，每次用k-1份训练模型，剩下1份计算对数似然，最后取所有折的平均值。这种方法能更充分利用数据，同时避免过拟合带来的偏差。

3. 可视化对比 #

将KDE估计的PDF曲线和数据的归一化直方图（或经验分布函数ECDF）叠加，直观判断形状是否匹配。比如用matplotlib绘制：

import matplotlib.pyplot as plt

# 生成KDE的PDF曲线
x_plot = np.linspace(-4, 4, 1000).reshape(-1, 1)
pdf = np.exp(kde.score_samples(x_plot))

# 绘制直方图和KDE曲线
plt.hist(x, bins=30, density=True, alpha=0.5, label='数据直方图')
plt.plot(x_plot, pdf, 'r-', label='KDE估计PDF')
plt.legend()
plt.show()

如果曲线和直方图的形状高度重合，说明拟合效果较好。

4. 拟合优度检验 #

用统计检验方法对比经验分布和模型分布的差异：

• KS检验：计算经验分布函数（ECDF）和KDE积分得到的CDF之间的最大差值，判断是否显著。若p值大于0.05，说明不能拒绝“模型分布与真实分布一致”的原假设。
• Anderson-Darling检验：对分布尾部的差异更敏感，适合检测尾部拟合是否到位。

二、GridSearchCV在KDE中选择超参数的原理 #

Scikit-Learn的GridSearchCV在处理KernelDensity时，核心依赖交叉验证的对数似然来评估超参数，不需要真实PDF：

1. 默认评分逻辑：KernelDensity的score方法返回的是整个数据集的对数似然之和（本质是所有样本对数密度的总和）。GridSearchCV默认会用这个score方法作为评估指标。
2. 交叉验证过程：以你给出的20折CV为例：
   • 把数据集分成20个互斥的子集；
   • 对每一组超参数（比如某个带宽值），依次用19个子集训练KDE模型，然后用这个模型对剩下的1个子集计算对数似然；
   • 把20次计算得到的对数似然取平均值，作为该超参数组合的最终得分；
3. 最优超参数选择：GridSearchCV遍历所有超参数组合，选择平均对数似然最高的那个——因为更高的对数似然意味着模型对未见过的数据的预测概率更接近真实情况，也就是拟合效果更好。

需要注意的是，旧版本的sklearn.grid_search.GridSearchCV已经被移到sklearn.model_selection.GridSearchCV，建议使用新版本：

from sklearn.model_selection import GridSearchCV
from sklearn.neighbors import KernelDensity
import numpy as np

x = np.random.normal(size=1000).reshape(-1, 1)
grid = GridSearchCV(KernelDensity(),
                    {'bandwidth': np.linspace(0.1, 1.0, 30)},
                    cv=20)
grid.fit(x)
print(f"最优带宽: {grid.best_params_['bandwidth']:.4f}")

内容的提问来源于stack exchange，提问作者Liel