如何在mlr框架中调整h2o深度学习模型的训练参数
问题原因
你运行报错的核心原因是混淆了参数集对象和固定参数的传入规则:makeParamSet()生成的ParamSet类对象是为后续超参数搜索(如网格搜索、随机搜索)准备的,不能直接传入makeLearner的par.vals参数。
两种使用场景的正确写法
场景1:固定设置训练参数,不需要做超参数搜索
如果只是要把自定义的参数固定传入h2o深度学习模型,不需要后续调参,直接把参数以键值对形式传入par.vals即可,示例代码如下:
library(mlr) library(h2o) # 先初始化h2o实例 h2o.init() h2o.no_progress() # 构造数据集 data <- data.frame( x = rnorm(144), y = rnorm(144), z = rnorm(144), Factor1 = as.factor(rep(c("A", "B"), each = 36)), Factor2 = as.factor(rep(c(rep("Red", 18), rep("Blue", 18)), 4)), Response = as.factor(rep(c(rep(1, 11), rep(0, 7), rep(0, 18)), 4)) ) # 创建任务 Task <- makeClassifTask(data = data, target = "Response") # 自定义参数直接以键值对传入par.vals Lrn <- makeLearner("classif.h2o.deeplearning", predict.type = "prob", par.vals = list( epochs = 50, nfolds = 3, score_interval = 1, stopping_rounds = 5, stopping_metric = "misclassification", stopping_tolerance = 1e-3 )) # 训练模型 Mod <- train(Lrn, Task)
场景2:需要对参数进行超参数搜索
如果要对部分参数的取值范围做搜索调优,才需要用到makeParamSet定义参数搜索空间,配合调参函数使用,示例如下(注意epochs是整数类型,用makeIntegerParam定义更合理,避免生成非整数值的参数):
library(mlr) library(h2o) h2o.init() h2o.no_progress() # 构造数据集、任务同上 data <- data.frame( x = rnorm(144), y = rnorm(144), z = rnorm(144), Factor1 = as.factor(rep(c("A", "B"), each = 36)), Factor2 = as.factor(rep(c(rep("Red", 18), rep("Blue", 18)), 4)), Response = as.factor(rep(c(rep(1, 11), rep(0, 7), rep(0, 18)), 4)) ) Task <- makeClassifTask(data = data, target = "Response") # 定义基础学习器,固定不需要调的参数 Lrn <- makeLearner("classif.h2o.deeplearning", predict.type = "prob", par.vals = list( nfolds = 3, score_interval = 1, stopping_rounds = 5, stopping_metric = "misclassification", stopping_tolerance = 1e-3 )) # 定义要搜索的参数空间,比如搜索epochs在10到100之间的最优值 param_set <- makeParamSet( makeIntegerParam("epochs", lower = 10, upper = 100) ) # 定义搜索方法、验证方法 ctrl <- makeTuneControlRandom(maxit = 5) rdesc <- makeResampleDesc("CV", iters = 3) # 执行调参 tune_res <- tuneParams(Lrn, Task, resampling = rdesc, par.set = param_set, control = ctrl) # 用最优参数生成最终学习器,训练模型 Lrn_opt <- setHyperPars(Lrn, par.vals = tune_res$x) Mod <- train(Lrn_opt, Task)
内容的提问来源于stack exchange,提问作者Electrino
相关产品推荐
相关产品推荐

