vRDMA是平台自研的云上弹性RDMA网络，将RDMA技术应用到了VPC网络中。与传统需配备单独硬件网卡的RDMA不同，vRDMA依附于VPC内的弹性网卡ENI。您仅需为实例挂载开启了vRDMA的弹性网卡，便可在不改变原有业务组网的情况下激活RDMA（Remote Direct Memory Access）通信能力，体验RDMA带来的超低延迟以及高吞吐量等优势，且无需额外付费。 :::tip * 该功能正在邀测中，如需试用，请联系客户经理申请。 * 暂仅支持完成企业实名认证账号使用本功能。[个人认证如何升级为企业认证？](https://www.volcengine.com/docs/6261/65159) ::: ## 背景信息传统的TCP/IP传输，在传输数据时需要经过多层协议的封装和解封，且需要通过内核进行处理，涉及多次数据复制和上下文切换，存在较多的局限性，无法满足对网络性能要求极为严苛的场景，如高性能计算、模型推理、机器学习、大数据传输等领域。相比TCP/IP传输，RDMA打破了传统的分层架构，允许应用程序直接访问远程计算机的内存，无需经过操作系统内核和协议栈的多次数据拷贝和处理，实现了内存到内存的直接数据传输，大大减少了数据处理的中间环节，延迟可降低至微秒级甚至更低。但是，RDMA依赖于网络的无损特性、运维成本与使用成本较高，且传统的网络隔离机制将RDMA通信限制在单一集群内，导致应用范围受限。因此，出于对成本效益及适配多样化场景的考虑，如何“使RDMA协议运行在云上VPC内，同时具备无限接近物理网络的性能表现”成为新的演进方向，vRDMA应运而生。vRDMA提供云上VPC内大规模RDMA加速能力，可兼容传统HPC应用、AI应用以及传统TCP/IP应用，降低大众化场景的适配门槛，让更多的应用可以体验到更好的上云性能。 ## 功能优势 vRDMA具有以下优势： * **高性能**：vRDMA将RDMA技术应用到VPC网络中，使弹性网卡具有RDMA特性（低CPU负载、低网络延迟）。您可以在云网络环境中体验到vRDMA带来的出色性能，获取与物理RDMA一致的性能体验。 * **复用VPC网络**：vRDMA功能完全复用VPC网络，可以在原来的业务组网下直接启用RDMA功能，无需再区分VPC弹性网卡与RDMA网卡，使用更加灵活便捷。 * **兼容性**：支持标准的Verbs以及大部分Infiniband通信语义，支持业内主流通信库及中间件，无需对原有的应用程序进行大规模的修改，降低技术升级和迁移成本。 * **弹性扩展**：不同于传统的RDMA网卡需要单独的硬件网卡，vRDMA依附于弹性网卡，您可以随时创建支持vRDMA属性的弹性网卡并绑定到实例，也可以随时解绑，轻松实现弹性扩展，满足不同场景下对网络功能的动态需求。 * **隔离性**：vRDMA能够与传统TCP/IP共享实例带宽。通过对交换机共享缓存的合理配置以及队列配置，实现了vRDMA和TCP/IP在交换机上的buffer和流量隔离。通过vQos和多级Meter能力，支持vRDMA和TCP/IP出入向的流量细粒度隔离。 * **大规模组网**：传统RDMA基于无损网络，规模部署成本高且困难。vRDMA仅依赖有损的以太网络，同时结合自研的拥塞控制CC算法、网卡上的TX window和Adaptive retransmission的特性，在大规模、跨集群、长距离通信场景下能够提供高性能的网络服务。 ## 应用场景 * 高性能计算，例如需要大量数据交换和低延迟通信的科学计算、工程模拟等领域。 * 大数据分析，如实时数据分析、分布式数据库等涉及大规模数据集处理的任务。 * 人工智能或机器学习，例如深度学习模型训练，vRDMA能够缩短训练周期，提高模型迭代效率。 ## vRDMA对比ENI * 弹性网卡（ENI）能够为支持VPC的IP网络提供传统IP网络所具备的功能以及路由功能，[了解更多](https://www.volcengine.com/docs/6396/68933)。 * vRDMA网卡既提供用于IP网络的ENI设备，也提供低延迟、高吞吐量通信的vRDMA设备。 |对比项 |弹性网卡（ENI） |vRDMA网卡 | |---|---|---| |支持IP网络功能 |支持 |支持 | |支持分配IPv4或IPv6地址 |支持 |支持 | |支持作为主网卡 |支持 |支持 | |支持vRDMA通信 |不支持 |支持 | |支持的实例规格 |所有实例，见[实例类型和规格介绍](https://www.volcengine.com/docs/6396/70840)。 |仅支持如下实例规格：|\ | | ||\ | | |* ECS实例：|\ | | | [高性能计算CPU型：ecs.hpcg3ald.92xlarge（邀测）](https://www.volcengine.com/docs/6396/1411534)|\ | | |* GPU实例：|\ | | | * [GPU计算型：ecs.gna3c.61xlarge、ecs.gna3cd.61xlarge（邀测）](https://www.volcengine.com/docs/6419/68538)|\ | | | * [高性能计算GPU型：ecs.hpcpni3ln.45xlarge（邀测）](https://www.volcengine.com/docs/6419/189892) | |支持的地域和可用区 |所有地域和可用区 |仅支持如下地域和可用区：|\ | | ||\ | | |* 华北2（北京）：可用区D|\ | | |* 华东2（上海）：可用区E | |单台实例可挂载的网卡数量限制 |不同规格可挂载的弹性网卡数量不同，具体请参见[实例类型和规格介绍](https://www.volcengine.com/docs/6396/70840)。 |可以为主网卡或者辅助网卡开启vRDMA。不同实例可挂载的vRDMA网卡数量不同，具体如下：|\ | | ||\ | | |* ECS实例：最多可挂载5张vRDMA网卡。|\ | | |* GPU实例：最多可挂载9张vRDMA网卡。 | ## 配置vRDMA通信如何实现vRDMA通信并进行性能测试，请参见： * [为实例配置vRDMA](https://www.volcengine.com/docs/6396/1472568) * [GPU实例运行vRDMA测试](https://www.volcengine.com/docs/6396/1400306) * [ECS实例运行vRDMA测试](https://www.volcengine.com/docs/6396/1450125) ## 合理设置队列对（QP）数队列对（Queue Pair，QP）是RDMA的基本通信实体，由发送队列（SQ）和接收队列（RQ）构成，承担着管理数据发送与接收的职责。队列对（QP）数指的是一个RDMA设备或网络接口能够创建的最大队列对QP数量。合理设置QP数对于优化应用性能非常重要，因为过多或过少的QP都可能导致资源浪费或者成为性能瓶颈。 **查看网卡的QP数：** 您可以通过[vRDMA监控](https://www.volcengine.com/docs/6396/1472619)，查看网卡的QP数。 **设置方法**：正确设置QP数量需综合多方面因素，结合自身业务特点、现有基础设施条件及目标性能要求，进行细致规划与调整。 * 理解应用需求：依据应用场景，综合目标实例规格和规划的网卡数量来确定QP需求量。例如，高并发、低延迟的应用程序，像实时在线游戏服务器，需要较多QP支持更多并行连接；大数据传输场景，如数据备份中心，单个QP的带宽利用率则更为关键。 * 参考硬件限制：需要考虑服务器内存大小等因素，每个QP都会占用一定的系统资源。 * 测试与优化：完成初步配置后，您需要在实际环境进行性能测试，依据测试结果调整QP数量及相关参数，过程中留意是否出现错误信息、丢包率增高等异常情况。 * 持续监控：即便有了看似不错的配置方案，也需要定期检查系统运行状态，以应对业务增长或其他变化，确保当前设置始终适用。

云服务器