Node.js环境下BodyPix人像分割运行缓慢且CPU占用过高问题咨询

问题根因 #

浏览器端通过CDN引入的BodyPix默认调用WebGL硬件加速，而Node.js环境默认使用纯CPU计算的tfjs后端，搭配不合理的参数配置，就会出现分割耗时长、CPU资源被占满的问题。

可落地优化方案 #

• 有GPU设备优先使用GPU加速依赖：将项目依赖中的@tensorflow/tfjs-node替换为@tensorflow/tfjs-node-gpu，设备配置好NVIDIA CUDA环境的前提下，推理速度可提升5~10倍。
• 无GPU设备时开启CPU优化：启动项目前设置环境变量TF_ENABLE_ONEDNN_OPTS=1开启oneDNN加速，初始化时添加以下配置避免CPU占满：

const os = require('os')
const tf = require('@tensorflow/tfjs-node')

tf.setBackend('cpu')
tf.enableProdMode()
// 预留1个CPU核心，避免占满全部系统资源
tf.ENV.set('CPU_NUM_THREADS', os.cpus().length - 1)

• 加载模型时指定轻量化配置，不要使用默认全精度大模型：

const bodyPix = require('@tensorflow-models/body-pix')

const net = await bodyPix.load({
  architecture: 'MobileNetV1',
  outputStride: 16, // 输出步长可选8/16/32，数值越大速度越快
  multiplier: 0.75, // 模型通道乘数可选0.5/0.75/1.0，数值越小速度越快
  quantBytes: 2 // 启用量化模型可选1/2/4，数值越小推理速度越快
})

• 压缩输入图像尺寸：推理前将输入图像的长边压缩到800px以内，尺寸越小推理速度越快。
• 手动释放张量内存：每次分割推理结束后调用tf.disposeVariables()，或者用tf.tidy()包裹整段推理逻辑，避免内存泄漏导致运行速度持续下降。

内容的提问来源于stack exchange，提问作者Taz