TensorFlow自定义训练循环中外部非TensorFlow计算如何获取梯度？

报错原因 #

你遇到的报错本质是模型输出到损失值的计算路径完全脱离了TensorFlow的自动微分追踪链路：你将模型输出的张量w转成numpy数组后写入文件，调用外部程序计算得到y_pred，这整个过程中GradientTape没有记录任何和w相关的运算，无法建立损失和模型可训练参数之间的导数关联，tape.gradient只能返回全None，因此触发无梯度的报错。你用的tape.stop_recording是暂停梯度记录的接口，和解决这个问题完全无关，自然不会生效。

可行解决方案 #

分两种场景选择适配的方案：

场景1：可手动推导外部计算的梯度公式

如果你可以自己算出y_pred对15个模型输出值的导数（即dy_pred/dw的数值），可以用tf.custom_gradient装饰器封装整个外部调用流程，手动补全梯度回传逻辑，示例代码如下：

import tensorflow as tf
import numpy as np

@tf.custom_gradient
def wrap_external_calc(w):
    # 前向传播逻辑：调用外部程序生成y_pred
    def run_forward(w_np):
        g.change_weight(np.arange(699, 714), w_np.flatten())
        y_pred = g.get_xsec()
        return y_pred.astype(np.float32)
    y_pred = tf.numpy_function(run_forward, [w], tf.float32)

    # 自定义梯度回传逻辑
    def grad(dy):
        # dy是上层传递的d_loss/dy_pred，你需要自己实现dy_pred/dw的计算
        w_np = w.numpy().flatten()
        # 替换为你手动推导的梯度计算逻辑，返回形状和w一致的梯度张量
        dy_dw = your_custom_gradient_func(w_np)
        return dy * dy_dw

    return y_pred, grad

修改你的训练循环对应部分即可连通梯度链路：

with tf.GradientTape() as tape:
    w = model(X, training=True)
    y_pred = wrap_external_calc(w)
    loss_value = loss_fn(y_pred, y_true)
grads = tape.gradient(loss_value, model.trainable_weights)

场景2：外部计算是黑盒，无法推导梯度

这种场景下你无法使用常规的梯度下降优化方法，需要改用零阶优化算法，不需要显式计算梯度就能更新参数：

• 推荐优先使用SPSA（同时扰动随机逼近）：每次迭代给模型参数加两次随机小扰动，分别计算两次扰动后的损失差值，用差值近似估计梯度方向再更新参数，对小模型来说收敛速度可接受。
• 也可以选择进化算法、贝叶斯优化这类无梯度优化方案，实现门槛更低，但收敛速度会更慢。

内容的提问来源于stack exchange，提问作者Francesco Curcio