如何解决ARM架构M1 Mac上TensorFlow无法调用GPU训练的问题

你当前碰到的设备回退问题，核心由两个机制叠加导致，并非TensorFlow安装失败：

• 苹果提供的M1适配版TF 2.4.0-rc0，通过ML Compute旁路后端接管硬件调度，该后端与原生TF设备列表的集成逻辑是独立的，因此通过tensorflow.config.list_physical_devices()查询时，永远只会显示CPU设备，看不到ML Compute调度的集成GPU。
• ML Compute后端存在内置逻辑：检测到eager模式已启动时，无论手动设置的设备参数是什么，都会强制回退到CPU执行，这也是你设置device_name='gpu'后触发那条WARNING的直接原因。

• 调整导入顺序，绕开eager模式的强制回退逻辑
  触发强制回退的常见操作是先导入tensorflow、启动eager模式后，再调用mlcompute的设备设置API。正确的时序是把mlcompute的设备选择逻辑放在所有TF、Keras导入操作的最前面，完整参考代码如下：

  # 第一行执行ML Compute设备初始化，禁止在此之前导入任何tensorflow相关模块
  from tensorflow.python.compiler.mlcompute import mlcompute
  # 优先使用any模式，不要硬指定gpu，适配MacBook Air无风扇的散热场景
  mlcompute.set_mlc_device(device_name='any')
  
  # 完成设备初始化后，再正常导入模型训练需要的模块
  import tensorflow as tf
  from tensorflow import keras
  

• 验证GPU调度是否生效
  不要用原生TF的设备查询API判断GPU状态，可通过两个维度交叉验证：
  1. 运行典型的矩阵乘法测试负载，对比纯CPU模式下的运算速度，若提速3-5倍则代表GPU已介入计算
  2. 打开活动监视器的「GPU历史」面板，运行测试负载时若能看到集成GPU的占用率明显上涨，即代表调度正常
     测试参考代码：

  import time
  # 构造大尺寸矩阵运算负载，该负载可被ML Compute有效调度到GPU
  mat_a = tf.random.normal([4096, 4096])
  mat_b = tf.random.normal([4096, 4096])
  start = time.time()
  for _ in range(20):
      mat_c = tf.matmul(mat_a, mat_b)
  print(f"负载总耗时：{time.time() - start:.2f}s")
  

• 适配TF 2.4.0-rc0版本的已知限制
  碰到以下场景时，ML Compute会自动回退到CPU，属于版本本身的硬限制，不是操作错误：
  • 自定义Keras层中使用了ML Compute后端尚未兼容的算子
  • 模型编译时主动传入run_eagerly=True参数，会直接触发eager模式强制走CPU的逻辑
  • 硬指定device_name='gpu'时，MacBook Air因为无风扇散热能力有限，容易触发温度保护导致自动回退，使用默认的any参数可让系统动态平衡性能与温度，稳定性更高

• tensorflow.config.list_physical_devices()只返回CPU是正常现象，不代表GPU无法参与计算
• 不要在当前版本基础上强行升级TF版本到2.5以上，高版本TF已经移除了对mlcompute模块的原生兼容，会直接触发导入报错

内容的提问来源于stack exchange，提问作者clstaudt