FM10420（fm10k）网卡DPDK testpmd转发大量丢包原因排查

测试基本场景 #

• 测试目标：测算采用DPDK实现20Mpps报文转发所需的资源规模
• 硬件资源：配备两块FM10420 100G双口网卡，分别承担流量生成、报文转发功能
• 架构约束：因仅可使用单台测试服务器，采用宿主机运行pktgen生成流量、虚拟机内运行testpmd执行转发的分离测试架构
• 工具版本：
  • 宿主机侧pktgen：基于DPDK 19.08.2，对应版本号19.08.0
  • 虚拟机侧testpmd：基于DPDK 19.11.5 LTS
• 异常现象：双工具并行运行阶段，观测到转发流程存在大规模丢包

已采集的排查参考材料 #

为定位问题已完成全量信息采集，覆盖以下内容：

• 连续运行60秒后的端口收发计数统计
• pktgen、testpmd的完整启动命令参数
• 宿主机与虚拟机的全量软硬件配置信息
• htop工具采集的实时资源监控结果
• 宿主机与虚拟机的/proc/cmdline系统启动参数

已明确的基础配置信息 #

宿主机配置 #

• CPU：Intel Xeon Silver 4214，共划分2个NUMA节点
• 网卡驱动：FM10420网卡物理功能（PF）采用fm10k 0.26.1驱动，虚拟功能（VF）绑定igb_uio驱动
• 内核与启动参数：内核版本4.4.0-190-generic，启动参数开启iommu=pt、intel_iommu=on
• 巨页配置：共设置13个1GB规格巨页

虚拟机配置 #

• 拓扑绑定：单NUMA节点拓扑，绑定24个超线程核心
• 内核版本：3.13.0-170-generic
• 巨页配置：共设置25个1GB规格巨页

待解决的核心问题 #

本次测试希望获得技术指导，完成两类核心排查目标：

• 定位当前转发流程中大规模丢包的根本原因
• 确认本次异常是否与FM10420网卡固件异常相关

内容的提问来源于stack exchange，提问作者Anuradha