DPVS适配Mellanox-25G/100G网卡

目录

• ​​安装Mlnx-Ofed​​

• ​​Mellanox 25G网卡​​

• ​​信息搜集​​
• ​​下载合适的mlx-ofed​​
• ​​安装MLNX-OFED​​

• ​​Mellanox 100G网卡​​

• ​​DPDK适配网卡​​

• ​​查看DPDK官方信息​​
• ​​DPDK MLX5 PMD支持的特性​​
• ​​DPDK不同版本对于Mellanox网卡的支持​​

• ​​dpdk 19.11才支持Mellanox Cx-6 Dx 100G网卡​​
• ​​dpdk 17.11 不支持Mellanox cx4-lx 25G的fdir​​

• ​​其他​​
• ​​参考​​

安装Mlnx-Ofed

Mellanox 25G网卡

信息搜集

• 查看固件版本， pci，驱动信息

# ethtool -i ens3f1
driver: mlx5_core
version: 5.0-1.0.0.0
firmware-version: 14.27.1016 (MT_2420110034)
expansion-rom-version:
bus-info: 0000:5e:00.1
supports-statistics: yes
supports-test: yes
supports-eeprom-access: no
supports-register-dump: no
supports-priv-flags: yes

• 查看speed

# ethtool  ens3f1
Settings for ens3f1:
    Supported ports: [ FIBRE ]
    Supported link modes:   1000baseKX/Full
                            10000baseKR/Full
                            25000baseCR/Full
                            25000baseKR/Full
                            25000baseSR/Full
    Supported pause frame use: Symmetric
    Supports auto-negotiation: Yes
    Supported FEC modes: None BaseR RS
    Advertised link modes:  1000baseKX/Full
                            10000baseKR/Full
                            25000baseCR/Full
                            25000baseKR/Full
                            25000baseSR/Full
    Advertised pause frame use: Symmetric
    Advertised auto-negotiation: Yes
    Advertised FEC modes: RS
    Speed: 25000Mb/s
    Duplex: Full
    Port: FIBRE
    PHYAD: 0
    Transceiver: internal
    Auto-negotiation: on
    Supports Wake-on: d
    Wake-on: d
    Current message level: 0x00000004 (4)
                   link
    Link detected: yes
    
ps： 只有接口up状态，才可以协商speed;

• 查看网卡的队列大小

# ethtool -g ens5f0
Ring parameters for ens5f0:
Pre-set maximums:
RX:   8192
RX Mini:  0
RX Jumbo: 0
TX:   8192
Current hardware settings:
RX:   1024
RX Mini:  0
RX Jumbo: 0
TX:   1024

• 查看网卡的收发队列个数

# ip -d link show dev ens5f0
2: ens5f0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP mode DEFAULT group default qlen 1000
    link/ether xx:xx:xx:xx:xx:xx brd ff:ff:ff:ff:ff:ff promiscuity 0 addrgenmode eui64 numtxqueues 1016 numrxqueues 63 gso_max_size 65536 gso_max_segs 65535

# ethtool -l ens5f0
Channel parameters for ens5f0:
Pre-set maximums:
RX:     0
TX:     0
Other:      512
Combined:   63
Current hardware settings:
RX:     0
TX:     0
Other:      0
Combined:   63

• 查看网卡PN (Part number)

# lspci -vv -s "5e:00.0" | grep -i "part number" -A 3
            [PN] Part number: MCX4121A-ACAT

下载合适的mlx-ofed

• 查询合适的Mlnx-ofed版本
  基于上面的网卡的固件版本，PN号来选择MLNX-OFED 驱动的版本

参见：​​mellanox网卡固件和mlnx-ofed版本映射表​​

• 查看某版本的MLNX_OFED的详细信息
  通过该文档，可以看出MLNX-OFED支持的系统，网卡，当前版本的新特性，安装，卸载，升级等等；如下所示：



• 
  



• 参见：​​mlnx-ofed 5.0.2.1.8.0的详细介绍​​
• 下载MLNX-OFED
  确定了MLNX-OFED的版本后，再基于当前的机器的系统（centos）、平台(x86-64)等，再进行下载。



• 参见：​​指定版本的mlnx-ofed 的下载​​

安装MLNX-OFED

参见上面提到的MLNX-OFED的详细信息中的信息，可以得到MLNX-OFED的安装指导。
我的常用的方法入下：

（1）下载mlnx-ofed 的 tar包 并解压；
(2) 安装
/opt/mlnx_ofed/mlnxofedinstall --add-kernel-support --upstream-libs --dpdk --skip-repo
(3)机器 reboot
(4) 验证
# ofed_info -s
MLNX_OFED_LINUX-5.0-2.1.8.0:

Mellanox 100G网卡

同上

DPDK适配网卡

查看DPDK官方信息

• dpdk doc文档、手册

https://www.dpdk.org/  ---> DPDK Core --->Document

各个版本的手册：

• API 手册
  介绍了当前版本的DPDK的 模块，源码（example例子的源码，各个文件分布，头文件、函数的源码等）；

• guides 手册

• dpdk支持的硬件信息

https://www.dpdk.org/  ---> DPDK Core --->

• dpdk 源码下载
  推荐方法一；

• 方法一：
  参见：​​​dpdk官方tar包下载​​ https://www.dpdk.org/ —> DPDK Core —> Download



• 
  
• 方法二：
  从github中下载；

DPDK MLX5 PMD支持的特性

参考：​​pmd MLX5 Ethernet Poll Mode Driver​​

DPDK不同版本对于Mellanox网卡的支持

dpdk 19.11才支持Mellanox Cx-6 Dx 100G网卡

如下所示，dpdk 18.11 还没有开始支持 Mellanox cx-6 Dx;

dpdk 17.11 不支持Mellanox cx4-lx 25G的fdir

Mellanox cx-4 lx 25G使用的是Mlx5的驱动，所以看看各个dpdk版本对于mlx5驱动的更新。如下所示：

• dpdk 16.11对于mlx5的支持



• dpdk17.11 对于mlx5的支持



• dpdk18.11对于mlx5的支持

其他

• 查看当前的网卡的PCI信息

# lspci | grep Mellanox
31:00.0 Ethernet controller: Mellanox Technologies MT28841
31:00.1 Ethernet controller: Mellanox Technologies MT28841
98:00.0 Ethernet controller: Mellanox Technologies MT28841
b1:00.0 Ethernet controller: Mellanox Technologies MT27800 Family [ConnectX-5]
b1:00.1 Ethernet controller: Mellanox Technologies MT27800 Family [ConnectX-5]

• 查看当前系统的MLNX OFED版本信息

# ofed_info -h
Usage: /bin/ofed_info [options]
Options:
    -s       Show package name and version number.
    -n       Show numerical version number only.
    -l       List installed packages details (Default option).

# ofed_info -s
MLNX_OFED_LINUX-5.0-2.1.8.0:

参考

Mellanox 官网：
https://www.dpdk.org/

(1) DPDK 中对于 Mellanox PMD 之 MLX5


https://doc.dpdk.org/guides/nics/mlx5.html
【DPDK MLX5 Ethernet Poll Mode Driver】

https://fast.dpdk.org/doc/perf/DPDK_18_11_Mellanox_NIC_performance_report.pdf
【DPDK 18.11 在 Mellanox nic 的性能测试报告：】
「学习网卡的性能测试的格式、测试哪些点，怎么测试。」

(2) Mellanox 手册/datasheet:
「没有像样的datasheet, 没有看到像intel 82599 datasheet 这么详尽的datasheet」

https://www.nvidia.com/en-us/networking/ethernet/connectx-5/
【nvidia 官网中介绍：只有product brief,介绍的太简单了】

(3) MLNX-OFED 手册：
https://docs.nvidia.com/networking/display/MLNXOFEDv551032/Introduction
https://network.nvidia.com/related-docs/prod_software/Mellanox_OFED_Linux_User_Manual_v2.4-1.0.0.pdf
【这个 mlnx-ofed 手册，还可以】