如何在macOS上为tfjs-node/Bun启用Metal后端并解决GPU使用率过低问题

我来帮你梳理下在macOS上为tfjs-node搭配Bun启用Metal后端、提升GPU使用率的解决步骤，结合你给出的测试数据，咱们一步步来排查：

一、先确认当前tfjs-node的后端状态 #

你用Bun运行的验证代码已经明确显示，当前tfjs-node默认使用的是CPU后端（tensorflow），完全没用到Metal：

// verify-backend.js
const tf = require('@tensorflow/tfjs-node');
async function checkBackend() {
  console.log('Current Backend:', tf.getBackend());
  console.log('Environment:', tf.env().getFlags());
  // Perform a small computation
  const a = tf.tensor([1, 2, 3]);
  const b = tf.tensor([4, 5, 6]);
  const result = a.add(b);
  console.log('Result:', result.dataSync());
}
checkBackend();

运行输出：

Current Backend: tensorflow
Environment: {
IS_BROWSER: false,
IS_NODE: true,
DEBUG: false,
CPU_HANDOFF_SIZE_THRESHOLD: 128,
CANVAS2D_WILL_READ_FREQUENTLY_FOR_GPU: false,
}
Result: Float32Array(3) [ 5, 7, 9 ]

同时你监测到GPU使用率极低，几乎处于 idle 状态：

**** GPU usage ****
GPU HW active frequency: 420 MHz
GPU HW active residency: 4.34% (389 MHz: 3.9% 486 MHz: .08% 648 MHz: .04% 778 MHz: .30% 972 MHz: 0% 1296 MHz: 0%)
GPU SW requested state: (P1 : 90% P2 : 1.6% P3 : 1.1% P4 : 7.0% P5 : .44% P6 : 0%)
GPU idle residency: 95.66%
GPU Power: 41 mW

二、为tfjs-node/Bun启用Metal后端 #

你的系统本身Metal环境是正常的（从Python端的测试就能验证），问题出在tfjs-node没有自动启用Metal后端，需要手动配置：

1. 手动指定Metal后端 #

修改你的验证代码，在获取后端前手动设置Metal后端：

// 修改后的verify-backend.js
const tf = require('@tensorflow/tfjs-node');
async function checkBackend() {
  // 手动切换到Metal后端
  await tf.setBackend('metal');
  console.log('Current Backend:', tf.getBackend());
  console.log('Environment:', tf.env().getFlags());
  // 执行计算验证
  const a = tf.tensor([1, 2, 3]);
  const b = tf.tensor([4, 5, 6]);
  const result = a.add(b);
  console.log('Result:', result.dataSync());
}
checkBackend();

运行后如果成功，Current Backend会显示为metal。

2. 确保安装支持Metal的tfjs-node版本 #

如果手动设置后还是无法切换到Metal，先卸载现有包再重新安装最新版：

bun remove @tensorflow/tfjs-node
bun add @tensorflow/tfjs-node

最新版的@tensorflow/tfjs-node已经内置了macOS Metal的支持，不需要单独安装tfjs-node-gpu包。

三、解决GPU使用率过低的问题 #

你之前测试的计算量太小（只是简单的张量加法），GPU根本不需要满负载运行，这也是使用率低的核心原因之一。要验证GPU是否真的在工作，需要用足够大的训练任务来触发：

1. 用训练任务测试GPU负载 #

比如用tfjs-node训练MNIST模型（和你Python端的测试对应）：

// mnist-train.js
const tf = require('@tensorflow/tfjs-node');

async function trainMNIST() {
  // 先切换到Metal后端
  await tf.setBackend('metal');
  console.log('Using backend:', tf.getBackend());

  // 加载MNIST数据
  const data = await tf.data.web('https://storage.googleapis.com/tfjs-tutorials/mnist.json').json();
  const trainData = data.train;
  const xTrain = tf.tensor2d(trainData.images, [trainData.images.length, 784]).div(tf.scalar(255));
  const yTrain = tf.oneHot(tf.tensor1d(trainData.labels, 'int32'), 10);

  // 构建模型
  const model = tf.sequential();
  model.add(tf.layers.dense({units: 128, activation: 'relu', inputShape: [784]}));
  model.add(tf.layers.dense({units: 10, activation: 'softmax'}));
  model.compile({optimizer: 'adam', loss: 'categoricalCrossentropy', metrics: ['accuracy']});

  // 开始训练
  console.log('Starting training...');
  await model.fit(xTrain, yTrain, {
    epochs: 5,
    batchSize: 32,
    callbacks: {
      onEpochEnd: (epoch, logs) => {
        console.log(`Epoch ${epoch+1}: loss = ${logs.loss.toFixed(4)}, accuracy = ${logs.acc.toFixed(4)}`);
      }
    }
  });
}

trainMNIST();

2. 监测GPU使用率 #

在另一个终端窗口运行以下命令监测GPU状态：

sudo powermetrics --samplers gpu_power

当训练开始后，你应该能看到GPU使用率大幅提升（类似你Python端测试的99%左右的活跃占比），而不是之前的4%。

四、参考：Python端Metal正常工作的验证 #

你提供的Python代码已经确认系统的Metal环境是正常的，这说明问题完全出在tfjs-node的配置上，不是系统层面的问题：

import tensorflow as tf

# List physical devices
devices = tf.config.list_physical_devices()
print("Devices:", devices)

# Check for Metal GPU
for device in devices:
    if 'GPU' in device.device_type and 'METAL' in device.name:
        print("Metal GPU is being used:", device)

输出：

Devices: [PhysicalDevice(name='/physical_device:CPU:0', device_type='CPU'), PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]

用Python训练MNIST时，GPU使用率能达到99%左右，验证了系统GPU可以正常工作：

**** GPU usage ****
GPU HW active frequency: 389 MHz
GPU HW active residency: 99.91% (389 MHz: 100% 486 MHz: 0% 648 MHz: 0% 778 MHz: 0% 972 MHz: 0% 1296 MHz: 0%)
GPU SW requested state: (P1 : 100% P2 : 0% P3 : 0% P4 : 0% P5 : 0% P6 : 0%)
GPU idle residency: 0.09%
GPU Power: 254 mW

内容来源于stack exchange