如何复用iterator.get_next()数据批次？交替优化实现求助

这个问题我之前也遇到过！核心原因是每次调用sess.run()时，TensorFlow会执行整个计算图中所有被依赖的节点——包括你的iterator.get_next()。所以两次分开的sess.run()会触发两次取数，自然就用了不同批次。

给你两种靠谱的解决方案，按需选择：

方案1：一次性获取批次，再喂给两个训练操作 #

这种方法适合需要在Python层对批次数据做额外处理的场景，思路是先把数据从图中取出来，再通过feed_dict传给两个训练操作：

# 先定义对应数据批次的占位符（匹配原data_batch的 dtype 和 shape）
data_batch_ph = tf.placeholder(dtype=data_batch.dtype, shape=data_batch.shape)
# 用占位符构建训练操作
train_op_1 = get_train_op(data_batch_ph)
train_op_2 = get_train_op(data_batch_ph)

for _ in range(num_steps):
    # 先获取单个批次的数据到Python端
    batch_data = sess.run(iterator.get_next())
    # 用同一个批次依次执行两个训练操作
    sess.run(train_op_1, feed_dict={data_batch_ph: batch_data})
    sess.run(train_op_2, feed_dict={data_batch_ph: batch_data})

方案2：在计算图中合并两个训练操作（推荐） #

如果不需要在Python层处理数据，这种方法效率更高——因为所有操作都在TensorFlow图内完成，避免了数据在Python和TensorFlow之间的拷贝。思路是把两个训练操作打包成一个列表，一次sess.run()执行，此时iterator.get_next()只会被计算一次：

data_batch = iterator.get_next()
train_op_1 = get_train_op(data_batch)
train_op_2 = get_train_op(data_batch)
# 把两个训练操作打包
combined_ops = [train_op_1, train_op_2]

for _ in range(num_steps):
    # 一次run执行两个操作，共享同一个批次数据
    sess.run(combined_ops)

关键说明 #

第二种方案之所以有效，是因为TensorFlow在单次sess.run()调用中，对于同一个节点（这里就是iterator.get_next()）只会计算一次，所有依赖它的节点（两个训练操作）都会复用这次计算的结果，完美解决批次不一致的问题。

内容的提问来源于stack exchange，提问作者Hxyz