You need to enable JavaScript to run this app.
导航
在线服务性能分析
最近更新时间:2025.08.18 14:33:44首次发布时间:2025.08.16 17:50:43
复制全文
我的收藏
有用
有用
无用
无用

性能分析功能旨在帮助您深入了解并定位模型推理服务的性能数据。当您发现推理性能不达预期、资源利用率低下时,可以使用本工具可按照 GPU、CPU 维度的性能数据,并通过可视化的时间线(Timeline)报告,快速找到耗时最长的操作或算子,从而进行针对性优化。

前提条件

您已有运行中的在线服务,创建在线服务见将模型部署成服务

创建性能分析
  1. 在线服务 页面右侧服务列表中,单击 服务/ID 栏 需性能分析的服务名称。
  2. 在 服务详情页中切换至 性能分析 页签,单击 创建性能分析 按钮。

Image

  1. 按照页面提示填写表单信息,其中分析类型支持 GPUCPU类型。
    • GPU 类型:仅支持采集 GPU 进程 数据,按固定时间周期采集,且会对线上性能有影响,故不建议在线上生产环境使用。
    • CPU 类型:支持按照 实例 或 CPU 进程 维度采集数据,按照固定时间周期采集。
  2. 创建性能分析后,等待一定时间,即可在 服务详情页- 性能分析页签 查看性能数据。

Image