tf.identity赋值前未复制旧值求助：控制依赖未按预期生效

我明白你遇到的困惑了——本来想通过tf.identity捕获变量x的旧值，再用tf.control_dependencies确保赋值操作在捕获旧值之后执行，但结果却读到了更新后的x值，这确实挺让人挠头的。

问题根源分析 #

在TensorFlow 1.x的计算图机制里，你的写法存在两个关键问题：

1. 控制依赖的有效性问题：tf.control_dependencies([x_ident])虽然声明了assign_op依赖x_ident的执行，但tf.identity(x)本质上只是一个“传递节点”，TensorFlow的优化器可能会忽略这个无实际计算的依赖，导致assign_op和x_ident的执行顺序没有严格按预期约束。
2. 并行执行的调度问题：当你在同一个sess.run([x_ident, assign_op])调用里同时运行两个操作时，TensorFlow的执行引擎可能会并行调度无直接数据依赖的操作，而assign_op修改x的操作可能先完成，导致x_ident读取到了更新后的值。

修正方案 #

下面提供两种可靠的解决方式，都能确保你拿到x的旧值再完成赋值：

方案1：用tf.tuple强制执行顺序

tf.tuple会严格按照依赖关系执行传入的操作，确保先完成旧值读取，再执行赋值：

import numpy as np
import tensorflow as tf
dtype = np.float32
x = tf.get_variable('x', shape=(), dtype=dtype, initializer=tf.zeros_initializer)
y = tf.constant(1, dtype=dtype)

# 捕获x的旧值
old_x = tf.identity(x)
# 声明赋值操作依赖旧值的读取
with tf.control_dependencies([old_x]):
    assign_op = tf.assign(x, y)
# 用tf.tuple打包两个操作，强制顺序
combined_op = tf.tuple([old_x, assign_op])

# 运行测试
init_op = x.initializer
with tf.Session() as sess:
    sess.run(init_op)
    x_before_ = sess.run(x)
    x_ident_, _ = sess.run(combined_op)
    x_after_ = sess.run(x)

# 验证结果
print("version:", tf.__version__)
print("x_before_:", x_before_)
print("x_ident_:", x_ident_)
print("x_after_:", x_after_)
assert np.allclose(x_ident_, 0)

方案2：打包成一个返回旧值的操作

把“读取旧值+赋值”封装成一个单独的操作，确保逻辑的原子性：

import numpy as np
import tensorflow as tf
dtype = np.float32
x = tf.get_variable('x', shape=(), dtype=dtype, initializer=tf.zeros_initializer)
y = tf.constant(1, dtype=dtype)

def get_old_value_then_assign():
    # 先读取x的当前值（旧值）
    old_x = tf.identity(x)
    # 确保赋值操作在读取完成后执行
    with tf.control_dependencies([old_x]):
        assign_op = tf.assign(x, y)
    # 确保返回的是已经读取的旧值（避免被后续操作影响）
    with tf.control_dependencies([assign_op]):
        return tf.identity(old_x)

old_x_op = get_old_value_then_assign()

# 运行测试
init_op = x.initializer
with tf.Session() as sess:
    sess.run(init_op)
    x_before_ = sess.run(x)
    x_ident_ = sess.run(old_x_op)
    x_after_ = sess.run(x)

# 验证结果
print("version:", tf.__version__)
print("x_before_:", x_before_)
print("x_ident_:", x_ident_)
print("x_after_:", x_after_)
assert np.allclose(x_ident_, 0)

这两种方案都能在你的TensorFlow 1.14版本中正常工作，确保x_ident_捕获到x的旧值0.0，再完成赋值操作。

内容的提问来源于stack exchange，提问作者R zu