TensorFlow算子是否仅按需执行及相关副作用问询

咱们逐个拆解你提出的三个问题：

1. 是否可以确保increase_op不会被执行？ #

完全可以。TensorFlow的Graph Execution模式（也就是你用session.run的场景）是严格依赖驱动的执行模型——session.run只会计算你指定的目标张量/算子所依赖的子图部分。

举个实际的代码例子：

import tensorflow as tf

v = tf.Variable(0)
increase_op = tf.assign_add(v, 1)
# 定义一个完全无关的张量
unrelated_tensor = tf.constant(100)

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    # 只执行无关张量
    result = sess.run(unrelated_tensor)
    print(result)  # 输出100
    print(sess.run(v))  # 输出0，说明increase_op完全没被执行

只要你调用session.run的目标和increase_op没有任何数据依赖（比如不依赖v的更新后的值），也没有控制依赖（比如没用tf.control_dependencies把两者绑定），increase_op所在的子图就不会被触发执行。

2. TensorFlow是否始终仅执行需要的算子，不会进行推测执行？ #

在传统的TF1.x Graph Execution模式下，是的，TensorFlow不会做推测执行。它只会精准地执行计算目标所必需的算子链，不会主动去执行图中其他无关的算子——毕竟这不符合它依赖驱动的设计逻辑。

只有两种情况会让increase_op被执行：

• 你把它直接加入session.run的fetches列表里，比如session.run([unrelated_tensor, increase_op])
• 你通过tf.control_dependencies给无关算子加上了控制依赖，强制先执行increase_op再计算目标张量。

3. 计算图中的increase_op是否会产生其他副作用，比如预分配内存？ #

分两种情况看：

• Variable本身的内存：v作为Variable，它的内存是在执行tf.global_variables_initializer()的时候分配的，和increase_op是否执行无关。
• assign_add中右侧大张量的内存：如果你的increase_op是tf.assign_add(v, some_very_big_thing)，只要increase_op没被执行，some_very_big_thing如果是需要计算的张量（比如由其他算子生成的），那它不会被计算，也就不会触发内存分配；如果some_very_big_thing是tf.constant类型的大张量，它的内存会在构建计算图的时候就被序列化到图定义里，但这不属于执行session.run时的副作用，而且和increase_op是否执行无关。

简单来说：只要increase_op没被执行，就不会因为这个算子本身产生额外的执行时副作用（比如临时内存分配、变量值修改等）。

内容的提问来源于stack exchange，提问作者Albert