TensorFlow如何为非严格执行判定产生可观测效果所需的操作？

在TensorFlow中，图执行（通过@tf.function装饰器启用）属于非严格执行，仅会执行产生可观测效果的必要操作；而即时执行则会运行所有操作。典型例子是：带@tf.function的函数中，未被使用的tf.gather(x, [20])不会触发索引越界错误，但去掉装饰器后就会直接报错。针对这个场景，以下是具体解释：

为何未使用的tf.gather不被视为必要操作？ #

图执行的核心逻辑是追踪操作与可观测输出的依赖关系。如果一个操作的输出既没有被用来生成函数返回值，也没有触发任何官方定义的可观测效果（包括tf.print等IO操作、tf.debugging断言类调试操作、tf.Variable的变更），那么它会被判定为“无意义的死代码”，在图优化阶段被直接剔除，不会实际执行。你例子中的tf.gather(x, [20])仅完成了数值计算，但结果没有流向任何可观测终点，因此不会被执行，自然不会触发索引越界。

tf.gather被判定为必要操作的场景 #

• 输出用于生成函数返回值：比如函数最终return tf.gather(x, [20])，此时该操作是返回值的直接依赖，必须执行。
• 输出传递给可观测操作：例如将结果传入tf.print(tf.gather(x, [20]))，或用于tf.debugging.assert_less(tf.gather(x, [20]), 100)这类调试断言，此时操作会触发可观测效果，必须执行。
• 输出用于修改tf.Variable：比如执行var.assign(tf.gather(x, [20]))，变量变更属于可观测效果，因此对应的tf.gather会被执行。
• 输出被其他必要操作依赖：例如先执行gathered = tf.gather(x, [20])，再用gathered计算返回值或触发可观测行为，那么tf.gather作为依赖项会被执行。

关于“未使用”的猜想验证 #

你的猜想方向是正确的，但“未使用”的范围更广——它不仅指未变更或创建变量，还包括未关联到返回值、IO操作、调试断言等所有可观测效果。只要操作的输出没有流入任何可观测的“终点”，无论是否涉及变量，都会被判定为不必要操作而被剔除。

内容的提问来源于stack exchange，提问作者user1245262