TensorFlow中能否多次构建graph并自动复用所有graph中的相同变量？

嘿，我来帮你把TensorFlow里关于计算图和变量复用的这些问题理清楚～

1. 能不能自动复用不同Graph中的相同变量？ #

答案是不能。TensorFlow里每个Graph都是独立的计算图实例，变量是绑定在所属Graph上的——哪怕两个Graph里的变量名字、形状完全一样，它们也是完全独立的内存对象，不会自动共享或复用。

2. 你的原有理解是否正确？ #

你的理解存在一些关键偏差，我来拆解说明：

• 首先，一个Session只能关联一个Graph（默认是当前的默认Graph）。你没法用同一个Session同时操作多个不同的Graph；如果创建了新的Graph，要么通过with tf.Graph().as_default():切换默认Graph，要么在创建Session时指定graph参数绑定到目标Graph。
• 其次，即便在同一个Graph里，重复构建结构时也不会自动复用变量——默认情况下，如果你定义了两个同名变量，TensorFlow会直接报错（提示变量已存在）。只有显式开启复用模式，才会复用已有变量。
• 最后，训练完一个Graph的变量后，另一个独立Graph里的同名变量不会自动获得训练后的值，因为它们本质是完全不同的对象。

3. 如何实现变量复用？ #

根据你的需求场景，分两种情况处理：

同一Graph内复用变量 #

这时候**变量作用域（variable_scope）**是最常用的工具：

import tensorflow as tf

# 第一次构建结构，创建变量
with tf.variable_scope("shared_vars"):
    w = tf.get_variable("weight", shape=(2,2))

# 第二次构建结构，显式复用已有变量
with tf.variable_scope("shared_vars", reuse=True):
    w_reused = tf.get_variable("weight")  # 这和上面的w是同一个变量

print(w is w_reused)  # 输出True

通过设置reuse=True（或者调用tf.get_variable_scope().reuse_variables()），TensorFlow会查找已有作用域下的同名变量，而不是重新创建新变量。

跨Graph复用变量 #

这种情况没有自动复用的机制，需要手动传递变量值，常见的两种方式：

• 直接赋值传递：在训练好的Graph中获取变量值，然后在新Graph中创建同结构变量，再用assign方法赋值：

# 训练好的Graph A
graph_a = tf.Graph()
with graph_a.as_default():
    w_a = tf.get_variable("weight", shape=(2,2))
    init = tf.global_variables_initializer()

with tf.Session(graph=graph_a) as sess:
    sess.run(init)
    # 模拟训练：给w_a赋值
    sess.run(w_a.assign(tf.constant([[1,2],[3,4]], dtype=tf.float32)))
    w_value = sess.run(w_a)

# 新的Graph B
graph_b = tf.Graph()
with graph_b.as_default():
    w_b = tf.get_variable("weight", shape=(2,2))
    assign_op = w_b.assign(w_value)
    init = tf.global_variables_initializer()

with tf.Session(graph=graph_b) as sess:
    sess.run(init)
    sess.run(assign_op)
    print(sess.run(w_b))  # 输出和w_a训练后的值一致

• 使用Saver保存/加载：把训练好的变量保存到checkpoint文件，然后在新Graph中用Saver加载对应变量，这种方式适合复杂模型的大量变量传递。

内容的提问来源于stack exchange，提问作者Lay González