使用Keras搭建gradient-descent流程时tf.gradients报错如何解决
问题原因
TF 2.x 默认启用**即时执行(Eager Execution)**模式,原TF 1.x静态图模式下的K.gradients、K.function接口已经不兼容该模式,因此抛出报错要求改用tf.GradientTape实现梯度计算。
解决方法
方案1:改用tf.GradientTape实现(推荐)
这是TF 2.x原生支持的梯度计算方式,兼容即时执行模式,不需要调整全局执行配置,替换后的代码逻辑如下:
import tensorflow as tf # 梯度计算逻辑替换 with tf.GradientTape() as tape: # 如果combination_image是自定义非可训练张量,需要手动添加watch追踪 tape.watch(combination_image) # 此处写入你原本的loss计算逻辑,需保证loss在上下文内基于combination_image计算得到 loss = 你的loss计算逻辑() grads = tape.gradient(loss, combination_image) # 无需单独定义K.function,后续直接调用loss、grads变量即可实时计算结果
注意:只有可训练变量会被
GradientTape默认追踪,自定义张量必须手动调用tape.watch()才会生成梯度。
方案2:关闭即时执行模式(兼容旧代码)
如果不想修改原有逻辑,可以在代码开头全局关闭即时执行,退回到TF 1.x静态图执行模式,原有代码可直接运行:
from keras import backend as K import tensorflow as tf # 全局关闭eager execution tf.compat.v1.disable_eager_execution() # 原有代码不需要修改 grads = K.gradients(loss, combination_image)[0] fetch_loss_and_grads = K.function([combination_image], [loss, grads])
注意:该方案会全局禁用TF 2.x所有即时执行特性,不建议新开发的代码使用。
内容的提问来源于stack exchange,提问作者Enudeme Jonathan
相关产品推荐
相关产品推荐

