推理服务支持7层负载均衡APIG

• 提供7层负载均衡器能力，实现 HTTP2、GRPC 等多种协议。
• 支持监控QPS、响应时间、错误码等数据。

基于多部署使用

自定义训练任务支持多机诊断

在自定义任务时，支持校验GPU设备和机内带宽（NVLink和PCIe）是否正常，同时对机器之间的RDMA网卡通信和交换机的连通性也做检查。需注意只支持HPC规格。

全量开放

TensorBoard 服务升级

• 自定义任务支持开启 TensorBoard 服务并发起对比实验。
• 用户可以自定义设置 TensorBoard Logs 存储位置，将实验数据存储在 vePFS 或者 NAS。
• 使用该功能时，选择的 vePFS 实例需要处于运行中状态，且选择的 vePFS 实例的 VPC 与资源组的存储VPC 一致。
• 对比任务所在资源组的存储 VPC 需要一致，否则无法发起对比实验。

全量开放