TensorFlow 2搭建LSTM网络时训练显示步数与预期不符的问题咨询
训练进度条分母显示为LSTM序列长度的原因排查
基础前提
所有主流深度学习框架的内置训练进度条,分母的取值永远是单轮epoch需要遍历的总迭代批次数,从来不会直接显示总样本数,也不存在“进度条直接读取LSTM序列长度当分母”的底层实现逻辑。你观察到的分母值为16,本质是框架计算得到的总批次数,出现和LSTM序列长度数值一致的现象,要么是纯粹的数值巧合,要么是代码逻辑错位,具体分两类场景:
场景1:无任何代码错误的数值巧合
如果你在调用Keras的fit()方法时没有手动指定batch_size参数,框架会默认使用32作为批大小。按你的总样本量482计算,单轮epoch的总批次数为:ceil(总样本数 / 批大小) = ceil(482 / 32) = 16
这个计算结果和你设置的LSTM序列长度(16)完全相等,属于概率不低的数值碰撞,会直接误导你把两个独立的参数关联到一起,误以为进度条的分母值来自LSTM的序列配置。
场景2:代码逻辑错位导致的异常匹配
如果排除上面的巧合,进度条分母固定为16且确实和LSTM序列参数的变更强相关,一般是两个高频代码错误导致:
- 自定义数据集的返回逻辑写错:在实现自定义Dataset类或者Keras Sequence类时,
__len__方法没有返回总样本数482,反而错把LSTM序列拆分的总步长(16)作为返回值。训练框架会直接将这个返回值认定为整个数据集的规模,最终计算出的总批次数就是16。 - 输入张量的维度顺序错位:框架判断数据集规模的默认规则是,取传入张量的第0维数值作为总样本数。如果你在把原始形状为
(482, 12, 128, 1)的张量调整为适配LSTM的输入形状时,错误地把长度为16的LSTM序列步长维度挪到了张量的第0位,框架就会把16识别为总样本数,最终算出的总批次数自然和16强绑定。
快速定位方法
- 训练启动前手动打印三个值:自定义数据集的长度、输入张量的第0维数值、
fit()方法实际使用的batch_size参数,用总批次数公式计算理论值,和进度条显示的分母做对比,先排除数值巧合的误导。 - 检查张量维度的调整逻辑,确保喂给模型的所有输入张量,第0维永远是独立样本的总数量,LSTM需要的序列步长维度要放在靠后的特征维度位置,绝对不能挪到样本维度的位置。
内容的提问来源于stack exchange,提问作者C.A.M.R
相关产品推荐
相关产品推荐

