在GPU上用TensorFlow计算2的幂时，是否需将输入转为int32？

是的，当你需要精确的整数幂运算结果时，建议在计算前把输入转为整数类型。

原因分析 #

float32类型的有效二进制位数是23位，8192（即2^13）理论上是可以被float32精确表示的，但GPU上的tf.math.pow实现可能采用了近似计算逻辑（比如硬件指令的近似实现、泰勒展开等），导致出现了微小的精度偏差；而CPU的pow实现针对整数次幂这类场景做了优化，能返回精确的浮点值。

验证示例 #

• 浮点输入在GPU上的结果（存在偏差）：

  import tensorflow as tf
  with tf.device('/GPU:0'):
      res = tf.math.pow(2.0, 13.0)
  print(res)  # 输出: <tf.Tensor: shape=(), dtype=float32, numpy=8191.996>
  

• 整数输入在GPU上的结果（精确）：

  with tf.device('/GPU:0'):
      res = tf.math.pow(tf.cast(2, tf.int32), tf.cast(13, tf.int32))
  print(res)  # 输出: <tf.Tensor: shape=(), dtype=int32, numpy=8192>
  

额外建议 #

如果你的业务场景本身就是浮点运算，且这种微小的精度偏差不影响最终结果，那可以不用转换类型；但如果需要严格精确的整数结果，转为整数类型计算是最稳妥的方案，能彻底规避GPU硬件实现带来的精度问题。

内容的提问来源于stack exchange，提问作者ceballosiker