使用skopt.BayesSearchCV遇numpy.int属性错误的解决及替代方案

一、修复np.int弃用引发的AttributeError #

这个错误源于scikit-optimize旧版本未适配NumPy 1.20+的API变更，两种可行解决方式：

1. 升级scikit-optimize
   新版本已修复该兼容性问题，执行以下命令更新：

   pip install --upgrade scikit-optimize
   

2. 临时兼容补丁
   若暂时无法升级，可在代码开头添加如下映射代码，将np.int指向Python原生int：

   import numpy as np
   np.int = int
   

   之后再运行原示例代码即可。

二、其他贝叶斯搜索实现 #

除scikit-optimize的BayesSearchCV外，这些工具也支持贝叶斯超参搜索：

• Optuna：轻量灵活的优化框架，内置贝叶斯算法，支持试验剪枝，能自动终止无潜力的训练任务。
• Hyperopt：基于树结构Parzen估计器（TPE）的贝叶斯搜索工具，适合定义复杂的超参空间。
• Ray Tune：分布式超参优化框架，支持贝叶斯搜索，同时兼容多种优化策略，适配大规模训练场景。
• Keras Tuner：专为Keras/TensorFlow模型设计，内置贝叶斯优化器，上手简单。

三、网格、随机、贝叶斯之外的超参选择方法 #

• 遗传算法：模拟自然选择机制，通过交叉、变异迭代优化超参组合，适合非凸、离散的超参空间。
• 粒子群优化：基于群体智能的方法，通过粒子间信息共享寻找最优解，鲁棒性较强。
• 经验调参：依托领域知识和实践经验逐步调整，适合小范围超参或对模型有深入理解的场景。
• AutoML工具：如AutoKeras、H2O等，端到端完成模型选型与超参优化，无需手动定义搜索空间。
• SMAC：Sequential Model-based Algorithm Configuration，基于随机森林的贝叶斯优化变种，擅长处理高维超参空间。

内容的提问来源于stack exchange，提问作者sanctus