You need to enable JavaScript to run this app.
导航
进程 SM 使用率和 mGPU 配置的算力比例不匹配?
最近更新时间:2024.06.06 17:37:29首次发布时间:2022.10.17 14:10:50

问题描述

通过 NVML(NVIDIA Management Library) API 或 nvidia-smi pmon 看到的进程 SM(Stream Multi-processor)使用率和 mGPU 配置的算力比例不匹配。

说明

mGPU 功能目前处于 公测 阶段。

解决方法

通过 NVIDIA 官方工具采集的 SM 利用率是指固定周期内的 SM 使用率,mGPU 配置的算力比例是指用户应用程序在整个生命周期中使用的算力资源所占比例,二者的时间维度不一致,无法等价衡量。
如需评估 mGPU 的算力隔离能力,需要通过用户应用程序包含的性能指标(如 QPS)来衡量。