GridSearchCV中的best_score_属性实际是如何计算的？

得分计算逻辑 #

• GridSearchCV默认调用对应估计器的score()方法计算交叉验证得分，你使用的KernelDensity的score()方法返回值为测试集全部样本的对数概率密度之和，该值越高代表模型对测试集分布的拟合效果越好。
• best_score_是所有交叉验证折的测试集得分的平均值，计算公式为：

  best_score_ = 所有折的测试集对数似然总和 ÷ 交叉验证折数cv
  

不同cv取值得分差异原因 #

你观测到cv=2时得分约16、cv=50时得分约800属于正常情况，核心原因是不同折数下每折的训练集样本量存在显著差异：

• cv=2时，每折仅使用总样本的50%拟合KDE模型，模型拟合精度偏低，单折测试集的对数似然总和更低，最终平均得分更低
• cv=50时，每折使用总样本的98%拟合KDE模型，模型拟合精度更高，单折测试集的对数似然总和更高，最终平均得分更高
  注意：该得分不支持跨不同cv折数的实验直接对比，仅在相同cv折数的同批次调参实验中，得分越高对应超参数的拟合效果越好

调参判断标准 #

在你当前的实验设置下，best_score_数值越大，对应的kernel和bandwidth组合的概率密度估计效果越优。

内容的提问来源于stack exchange，提问作者physics