tf.convert_to_tensor(np.sin(x))与tf.math.sin(x)的差异及梯度问题

我尝试用以下代码绘制函数（例如SIN(x)，已知其导数为cos(x)，仅作示例）的导数：

x = np.linspace(-5, 5, 100)
tensor_x = tf.Variable(tf.convert_to_tensor(x))
with tf.GradientTape() as tape:
    f = np.sin(tensor_x)
    f = tf.convert_to_tensor(f)

g_x = tape.gradient(f, tensor_x)

axis[1].plot(tensor_x, g_x)
axis[1].set_title("Derivative of sin")
plt.show()

此时得到的g_x为None！但将代码中的：

with tf.GradientTape() as tape:
 f = np.sin(tensor_x)
 f = tf.convert_to_tensor(f)

替换为：

with tf.GradientTape() as tape:
    f = tf.math.sin(tensor_x)

后一切正常，能得到正确的梯度张量。

我验证了两种方式最终得到的都是tf.Tensor，类型和元素值均一致：

converted_from_np = tf.convert_to_tensor(np.sin(tensor_x))
real_tensor_from_tf = tf.math.sin(tensor_x)

print(type(converted_from_np) == type(real_tensor_from_tf))
real_tensor_from_tf == converted_from_np # 输出全为True

为何前者无法正常计算梯度，而后者可以？两者的差异是什么？

解答 #

核心差异在于TensorFlow的梯度追踪依赖计算图记录操作路径，两种方式的底层逻辑完全不同：

• np.sin(tensor_x)的本质是NumPy操作
  当你把TensorFlow变量传入np.sin时，NumPy会先将Tensor转换为NumPy数组（隐式执行tensor_x.numpy()），然后计算sin值，得到的是NumPy数组。之后用tf.convert_to_tensor转成Tensor，但这个Tensor是从外部数据（NumPy数组）生成的，没有和原变量tensor_x建立计算图关联。GradientTape无法追踪到从tensor_x到这个Tensor的操作路径，自然无法计算梯度，返回None。

• tf.math.sin(tensor_x)是TensorFlow原生操作
  这个操作完全在TensorFlow的计算图中执行，GradientTape会自动记录tensor_x经过tf.math.sin变换的整个路径，因此可以反向传播计算出正确的梯度。

简单说：虽然最终的Tensor数值和类型一样，但前者是"离线"生成的静态数据，后者是计算图中的动态节点，只有后者能被梯度追踪机制识别。

内容的提问来源于stack exchange，提问作者Danil