fastup kni设计实现说明文档


难度 中等

背景

当前5G小基站CDU控制面和数据面需要使用两个网口与核心网进行通信。但对于CDU而言,控制面数据量较小,且属于突发性流量;而数据面数据量较大,为持续性流量。相对于数据面来说,控制面流量几乎可以忽略不计。在当前设计中,控制面却需要占用一张网卡,这带来了巨大的资源消耗和维护成本。

因而需要将控制面的数据转移到数据面网口上来跑,但当前数据面网口为了提升性能使用了DPDK进行收发包,旁路了内核,网口收到的包无法到达内核。同时fastup未实现完整的协议栈,无法支持全部的控制面协议。在这样的背景下,就需要寻求一种能对基于DPDK收发包的网口进行分流的能力,将控制面的报文交给内核协议栈来处理;而数据面的报文交由fastup处理的。

dpdk中的kni功能就是为了对dpdk网口进行分流而设计的,kni全称kernel network interface,用于将dpdk网口收到包转发到内核,交由内核协议栈处理。

fastup kni设计原则

fastup kni实现需满足以下要求:

  1. 对网口收到的数据进行分流,控制面交由内核处理,数据面交由fastup处理;
  2. 设计分流规则,识别控制面和数据面;
  3. 支持kni与非kni切换,即fastup kni需与原fastup适配,且不能影响原fastup功能;

fastup和fastup kni的功能流程如下图所示。

其中管理面即上文中提到的信令面,用户面即上文中提到的数据面。

fastup kni代码流程图

fastup当前基于dpdk收发包未适配kni功能,需在fastup的dpdk插件中适配kni。

fastup dpdk插件流程

配置初始化

graph TB dpdk_config-->|读取dpdk参数后初始化dpdk环境|rte_eal_init-->|创建dpdk收发包内存池|dpdk_buffer_pool_create

加载网口

graph TB dpdk_lib_init

收发包

graph TB dpdk_device_input-->rte_eth_rx_burst-->dpdk_process_rx_burst

cli

graph TB show_sw_interface

fastup kni dpdk插件流程

配置初始化

graph TB dpdk_config-->|读取dpdk参数后初始化dpdk环境,同时会读取kni参数|rte_eal_init-->|未开启kni直接创建dpdk收发包内存池|dpdk_buffer_pool_create rte_eal_init-->|开启kni需先初始化kni|dpdk_kni_init-->rte_kni_init-->|创建dpdk kni收发包内存池|dpdk_kni_buffer_pool_create

fastup配置文件本身预留了kni的配置项,只是未将其实现。fastup kni会使用该配置项以对fastup进行兼容。具体配置项为在startup.conf配置文件的dpdk模块添加如下内容:

kni 1 # 1表示kni网口的个数,无法创建超过物理网口个数的kni网口

比如:

dpdk {
  kni 1 # 1表示kni网口的个数,无法创建超过物理网口个数的kni网口
}

加载网口

graph TB dpdk_lib_init-->|针对每个物理网口创建kni网口|dpdk_kni_create-->|分配kni资源|kni_alloc-->|配置kni网口参数|kni_config_network_interface

网卡收发包

graph TB dpdk_device_input-->rte_eth_rx_burst rte_eth_rx_burst-->|开启kni需先将包送到kni模块进行过滤分流处理|dpdk_kni_rxtx-->|处理收包进行过滤分流|dpdk_kni_ingress-->|过滤掉kni不需要处理的包的|kni_rx_or_not-->|将需要kni处理的包送往内核|rte_kni_tx_burst-->rte_kni_handle_request-->|需要kni收取的包已经送往内核|dpdk_process_rx_burst dpdk_kni_rxtx-->|处理发包|dpdk_kni_egress-->|从kni中将linux内核发出的包取出|rte_kni_rx_burst-->|使用dpdk将包发出去|rte_eth_tx_burst-->|linux内核发出的包已经处理完成,回到fastup正常收发包流程|dpdk_process_rx_burst

cli

graph TB show_sw_interface-->|显示kni网口的相关信息|show_vEth

fastup kni实现

配置

兼容fastup配置,同时与vpp的配置文档中保持一致(虽然vpp中有kni相关配置,但vpp未实现kni适配)。

分流

分流采用注册机制,支持在代码层面更换分流策略,当前分流策略配置接口还未添加。但保留了代码层面接口,后续添加分流策略配置只需做上层配置,对底层功能没有影响。

查询

兼容原有fastup cli配置,且虚拟出的kni网口支持操作系统下的ifconfig、ethtool命令行。

fastup kni功能描述

  • fastup kni支持在同一张网卡上既跑内核协议栈,又跑用户态协议栈
  • fastup kni支持同一台机器上一张网卡跑双栈(内核协议栈+用户态协议栈),另一张网口跑单栈(仅跑内核协议栈或用户态协议栈)
  • fastup kni支持kni功能开启和关闭,开启或关闭kni功能需重启fastup
  • fastup双栈需使用相同的mac地址,ip可不同,当ip不同时仅内核栈ip可以ping通

文章作者: growdu
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 growdu !
  目录
分类导航
随笔3 AI29 计算机基础13 算法1 博客搭建7 ChatGPT2 集群63 计算机通信1 数据库59 数据库深入93 数据库93 Docker11 DPDK26 编辑工具4 Elasticsearch4 FAQ1 Go Web1 hometown2 编程语言16 人生11 网络9 Linux38 OPC1 openGauss4 页面12 PostgreSQL54 程序员自我修养1 协议11 stock1 存储5 成长之路1 工具20 视频作品1 VPP18 Vue13 Web1 代码示例11 BenchmarkSQL1 PostgreSQL 源码修炼之路14
最热文章
1
PostgreSQL 逻辑复制全链路:以一个真实事务为例,从 `INSERT` 到 `apply` 的源码级旅程
数据库🔥 2162
2
PostgreSQL 逻辑复制 Stream 执行逻辑源码级拆解:从 reorderbuffer 触发到订阅端落盘回放
数据库🔥 1765
3
PostgreSQL 行锁机制源码级深度拆解:4 种锁模式 + xmax + MultiXact 的完整链路
数据库🔥 1656
4
PostgreSQL reorderbuffer.c 函数级源码全集:5615 行 / 95 个函数的逐函数解析
数据库深入🔥 1650
5
PostgreSQL 目录快照源码级深度拆解:系统表读取的 MVCC 真相与失效机制
数据库🔥 1604
6
13 逻辑复制深入
数据库深入🔥 1570
7
0 Postgresql存储、索引及系统优化、主备切换
PostgreSQL🔥 1495
8
PostgreSQL 读一行数据源码级深度拆解:MVCC 在每个环节的落点
数据库🔥 1464
9
PostgreSQL WAL 记录类型完全指南:21 个 RMGR × 80+ 种记录的源码级拆解
数据库🔥 1431
10
一文读懂openguass dcf网络模块
集群🔥 1420
11
PostgreSQL 元数据存储机制:从磁盘文件到内存缓存,`pg_class` 撑起的整个系统表体系
数据库🔥 1411
12
openGauss 并行解码设计原理深度拆解:reader + 多 worker + CSN 三层架构的源码级剖析
数据库深入🔥 1344
13
逻辑复制源码分析
数据库深入🔥 1327
14
PostgreSQL 逻辑复制:catalog 改动、可见性判定与 xmin/xmax 推进全景
数据库深入🔥 1317
15
自托管服务全家桶:从原文方案到可复制实操手册
人生🔥 1278
16
PostgreSQL CREATE_REPLICATION_SLOT 端到端源码分析:从 SQL 到 snapbuild 状态机的完整链路(每个函数每个参数)
数据库深入🔥 1277
17
PostgreSQL syscache 模块源码深度拆解:CatCache 数据结构、LRU 哈希表、cache invalidation 全链路
数据库深入🔥 1216
18
PostgreSQL 18 内核数据结构全景:RangeVar 与 20+ 个核心数据结构源码级拆解
数据库🔥 1158
19
PostgreSQL 逻辑复制里 `RUNNING_XACTS` 写入机制与快照 `xmin / xmax / xip` 的演化:源码级深度拆解
数据库🔥 1119
20
PostgreSQL 分区表:从一行 `PARTITION BY` 到路由热路径的全链路拆解
数据库🔥 1094