TensorFlow 1.15中XLA显式编译与自动聚类的作用是否等价？

结论 #

你提到的两种XLA开启方式不等价，核心差异在编译范围、容错逻辑两方面：

• 关于tf.xla.experimental.compile(computation)
  属于强制显式编译范畴，你指定的整段computation计算逻辑会被全部尝试交给XLA编译，只要内部有一个算子不被XLA支持，就会直接报错，不会回退到普通TensorFlow执行路径。编译范围仅覆盖你手动包裹的计算部分，不会影响代码中其他未被标记的逻辑。
• 关于config.graph_options.optimizer_options.global_jit_level = tf.OptimizerOptions.ON_1
  属于自动聚类编译范畴，TensorFlow会在图优化阶段全局扫描整个计算图，自动识别连续的、全部算子都被XLA支持的算子簇，仅对这部分簇做XLA编译，碰到不支持的算子会直接跳过，回退到普通执行路径，不会报错。编译范围是全局所有符合规则的算子簇，不需要手动标记，但零散、无法凑成有效簇的算子不会被XLA优化，加速效果通常不如手动显式编译稳定。

补充说明 #

你之前对不同版本XLA开启方式的对应认知是正确的：

1. TF1.15的全局自动聚类配置global_jit_level = tf.OptimizerOptions.ON_1，完全等价于TF2.x的tf.config.optimizer.set_jit(True)
2. TF1.15的显式编译接口tf.xla.experimental.compile(computation)，完全等价于TF2.x的@tf.function(jit_compile=True)

使用建议 #

如果希望稳定拿到XLA的最大加速效果，优先选择显式编译，提前确认你要包裹的训练逻辑里的所有算子都在XLA支持范围内即可；如果不想修改太多业务代码，只想尝试XLA能否无痛提升性能，可以直接开启全局自动聚类。

内容的提问来源于stack exchange，提问作者StayFoolish