TensorFlow Estimator API默认配置咨询:优化器、学习率与激活函数
TensorFlow Estimator API:LinearRegressor与DNNLinearRegressor默认参数详解
我太懂这种官方文档没写全的憋屈了——当初我查这些默认配置也是翻了源码才搞明白,给你整理得明明白白:
LinearRegressor 默认配置
- 优化器:默认使用
tf.train.FtrlOptimizer(Follow-the-regularized-leader 优化器),这是线性模型适配稀疏数据的常用选择 - 学习率:固定为
0.1,同时Ftrl的正则化参数默认是l1_regularization_strength=0.0、l2_regularization_strength=0.0(无正则约束) - 激活函数:无激活函数——线性回归直接输出预测值,不需要非线性激活环节
DNNLinearRegressor 默认配置
这是宽深模型,分线性部分(Wide侧)和深度部分(Deep侧),两者默认配置不同:
线性部分(Wide侧)
和LinearRegressor完全一致:
- 优化器:
tf.train.FtrlOptimizer - 学习率:
0.1 - 无激活函数
深度部分(Deep侧)
- 优化器:默认使用
tf.train.AdagradOptimizer - 学习率:固定为
0.05 - 激活函数:默认是
tf.nn.relu(ReLU激活)
补充说明:这些配置都是从TensorFlow Estimator的源码实现中提取的,官方文档确实没有在参数说明里明确标注这些默认值,得扒内部初始化逻辑才能确认。
内容的提问来源于stack exchange,提问作者akkig
相关产品推荐
相关产品推荐

