数据为中心的FPGA加速器技术

MrL1

一、FPGA加速器
* C. \+ n; x/ t8 \

云、网、边协同的算力网络、在网计算的Dis-aggregation数据中心网络、以及异构计算系统总线中计算和网络协同和融合，提出了泛在网络加速器架构FIA。
$ u7 ]7 b% U& N# K8 w7 C  S! A+ A
3 m# x$ l9 E- Q( N7 }
# o, n. y( {4 d$ k& M& X5 ~6 `
资源层：包括FPGA和CPU等可编程资源，异构计算，软硬件协同的网络处理框架
' o- }2 ?" b* Q
9 Q  e. F+ s8 y: @$ O* L) D" v8 {功能层：可重构通用分组处理流水线RDP与可编程数据深度处理器PDP架构，包括基础库和架构
# D: K" ]1 Q9 ~! r' R& v9 ~
应用层：用户面功能UPF开发库和控制模型
: s+ k3 h7 [- Y! `( n1 ~' \8 k3 y

5 q7 B: v- h2 @) \4 t解决算网融合下网络编程及性能扩展问题，为网络功能卸载、用户功能加速提供运行环境；赋能端/智能网卡、网/交换机、边/网关的功能，构成泛在的网络加速器服务。
: \2 @  a# e9 S6 t* ?. ^3 b7 Q

1、寄存器级：FPGA OS及开发框架

$ k+ ~* d0 S( T+ ?" ]针对网络协议栈卸载和应用加速，提出了泛在网络加速器抽象FPGA OS，支持用户面功能UPF运行Runtime。

# I) r( z* I5 E0 A) w  u  |% W
. ?: G1 Q* H4 P; `1 m7 S
; T' t. ^! Q4 h0 ^( u2 h+ ?泛在网络加速器抽象FPGA OS：提供了DMA、网络接口、数据缓存、控制总线等外围基本模块

用户面功能模块开发框架：提供关键字、时间戳、Buffer索引等Metadata信息，支持对报文内容的操作

Metadata：标识vNF,实现FPGA OS与UPF参数、中间结果交互。
) h8 J* @: C4 Q3 c


& ?; {9 {: i- s7 W0 m为实现近数据计算提供计算、网络和存储等资源，将智能网卡功能加速从网络协议栈扩展到了特定的用户面功能。
0 T; a/ k& |; H8 r- I2 o
/ Y; x' i( }/ E6 }2、指令级：可编程数据深度处理器RMT+/P4
/ `" ^: l( y5 G
* B  i/ S. E5 f针对无状态和有状态的协议处理差异，协议无关的分组处理方式成为基础，设计了可编程的硬件处理逻辑RMT，支持在线功能重构，线速处理。

3 u8 @% P: [& [$ C5 _( p, f5 f. @/ U
( F4 [( {  a5 R5 C) }# I
" O- ^/ u4 A7 k  D& s协议无关的解析引擎，包括TLV表示的协议状态转换表，关键字提取

查表匹配引擎，基于CAM的带掩码的查找

, L+ a$ ^- U4 V% Y- s) [8 `2 ^交叉开关，关键字等Metadata与ALU的通路
1 Q: T$ q6 L8 Z, ^: q& X
ALU，支持加、减、移位等基本运算

) a* w  W" ?; [( f) `逆解析器，报文头选项的编辑，报文头与报文体的合并等


完全RMT模型实现，支持P4语言编程，支持在线功能重构，将FPGA抽象成P4执行器。

& h( x1 \% t2 D! k5 U) _. ^3、模块级：控制和编排器
, l* s. Z, G3 G9 X% R" W% T. ^8 s
. {. t4 y" y% S2 `+ @异构网络设备统一管理，支持端到端的管理

4 L5 Y* a/ n: }

基于开源控制器，设计了软件定义可重构智能网卡、SDN交换机、超融合网关的统一的抽象层，支持软件定义可重构智能网卡、SDN交换机和网关统一管理，构成泛在的网络加速服务层

( I/ k2 \" ?( w; f1 k统一的设备状态数据库、网络拓扑显示界面
- N9 T( q7 i5 @  K- B
  L3 o( p: _, V& B" T: b" ^8 [+ H支持二层、三层路由转发，支持ACL，支持负载均衡等功能应用

多元网络功能统一调度，支持动态赋能
4 A) G0 A+ ~% e& P; p: ?
基于FAST的软硬件功能协同

RMT多级流水ALU处理

+ F7 |- t' |- m( h1 e% m5 v
二、应用场景
) g, O/ r& R; e" `
1、软件定义智能网卡原型

云数据中心应用种类繁多，针对云-端通信，适配了主流的网络传输层协议QUIC
! q  h4 K+ M+ [. }3 N9 Y# j
( z6 v" [1 X5 e4 a1 F/ e# L8 D面向云数据中心多租户应用，基于智能网卡原型，部署了k8s虚拟化环境，容器虚拟网络二层交换、三层转发功能
5 h' C7 _1 [" d6 {+ V( |
. M: p3 }& j. e与系统协议栈、云计算平台等具有良好的兼容性
# z6 D* }# z, m6 e# N
2 Z9 }! i- n3 E  ?1 ^5 |支持软件定义边界扩展到服务器第一跳
3 o( i8 n0 R3 ^& A( ]

( h% s9 Q( @# P4 C, l  O0 a2、超融合安全网关
) _7 c- t' R; r
. Y, f# H4 T8 Y7 i* Y以自主可控高性能交换芯片为前端分流器，泛在网络加速器FPGA作为业务运行平台，支持网关功能加速
' |; P) a2 u* M- r% v- V6 r
) w% w/ [% U% ^4 P& G0 W数据中心门户业务负载均衡、NAT等

流量压缩解压缩、加解密、清洗等

应用防火墙等功能卸载
8 b; u4 N1 p7 Z" `8 Z9 D3 o
基于加速器FPGA开发框架对网关进行重构和功能扩展

) B# S6 N1 e7 A4 h( a( q2 D基于加速器FPGA开发新型网关功能，如隐蔽信道检测、地址跳变等

与智能网卡共同支撑数据中心网络纵深安全
$ L( Z8 R9 F  p  w/ P5 e
, o2 U) a2 T* y# x+ G
3、异构可重构计算架构

; G& m' Z9 N( [- t/ u计算、加速、I/O基于敏捷交换解耦，易于资源扩展、统一管理、开发集成。
' ^) _  }( U# \) {: a% A
/ V0 A, C" Q1 \% V/ Z) w0 w+ Q
0 ]6 h1 Y5 c) i" \- a计算：轻量级虚拟化FAST UA；类Docker的虚拟化技术；支持自定义功能的卸载和负载均衡
# Q+ k* o. K; [+ c
1 D4 I: b" V: m$ O加速：泛在网络加速器FPGA即服务；泛在网络加速器FPGA OS；加速与卸载等算力提升的重要手段

互连：低延迟时间触发通信一、FPGA加速器


' P! o" m. [. o云、网、边协同的算力网络、在网计算的Dis-aggregation数据中心网络、以及异构计算系统总线中计算和网络协同和融合，提出了泛在网络加速器架构FIA。

0 ~% S0 m, G+ @- E" {/ S2 r/ s
7 J" Y6 e9 }) F1 ]5 m6 X
. \% v& l! n; L$ B+ d6 c资源层：包括FPGA和CPU等可编程资源，异构计算，软硬件协同的网络处理框架

功能层：可重构通用分组处理流水线RDP与可编程数据深度处理器PDP架构，包括基础库和架构

应用层：用户面功能UPF开发库和控制模型


4 s  C$ [# N9 \  b7 i. L- b解决算网融合下网络编程及性能扩展问题，为网络功能卸载、用户功能加速提供运行环境；赋能端/智能网卡、网/交换机、边/网关的功能，构成泛在的网络加速器服务。

; `  j8 h. M' a! I- I' }+ X' @
1、寄存器级：FPGA OS及开发框架
' W9 S$ z6 L. {. t- \6 A+ g
针对网络协议栈卸载和应用加速，提出了泛在网络加速器抽象FPGA OS，支持用户面功能UPF运行Runtime。
8 U! e% F* E& ^2 u1 X% ^* x5 M

) W6 ~; K  r& l2 ^7 F
泛在网络加速器抽象FPGA OS：提供了DMA、网络接口、数据缓存、控制总线等外围基本模块
$ ^: H9 W- u) f' j
1 K0 d) i. n, C( q9 m用户面功能模块开发框架：提供关键字、时间戳、Buffer索引等Metadata信息，支持对报文内容的操作

6 A/ c0 e* N: C; @3 PMetadata：标识vNF,实现FPGA OS与UPF参数、中间结果交互。

7 k! T0 v. V. |2 }5 g
* Z0 ]" e0 J& X
为实现近数据计算提供计算、网络和存储等资源，将智能网卡功能加速从网络协议栈扩展到了特定的用户面功能。

2、指令级：可编程数据深度处理器RMT+/P4
% r% j. A+ G" A" E8 _
针对无状态和有状态的协议处理差异，协议无关的分组处理方式成为基础，设计了可编程的硬件处理逻辑RMT，支持在线功能重构，线速处理。
5 l$ [' v' ?5 j) U
/ W5 r1 N6 [8 P. n( X% E/ v
. a: d' S! y! j: @: v( l# }
协议无关的解析引擎，包括TLV表示的协议状态转换表，关键字提取
- ^* |- E( K" b# o
( N3 @- @, S1 @3 p1 C查表匹配引擎，基于CAM的带掩码的查找

+ n9 E0 Y1 y6 y1 @交叉开关，关键字等Metadata与ALU的通路
  X$ r) J9 ?8 ]/ f5 Q9 X$ b2 R, ?
. u9 u! i# r2 R4 i: SALU，支持加、减、移位等基本运算
# X3 I+ e3 x) I2 w' p: T& s
# y4 \! a) ~! I! C9 y( v逆解析器，报文头选项的编辑，报文头与报文体的合并等

7 }4 p# h6 s% _( M0 ~$ p2 g
完全RMT模型实现，支持P4语言编程，支持在线功能重构，将FPGA抽象成P4执行器。
* c) E: l& y0 s
* e$ |7 Y/ w  ]  d3、模块级：控制和编排器

异构网络设备统一管理，支持端到端的管理
2 A3 {1 V/ e  \4 ~, @


8 y/ q0 n" |' o4 l' A基于开源控制器，设计了软件定义可重构智能网卡、SDN交换机、超融合网关的统一的抽象层，支持软件定义可重构智能网卡、SDN交换机和网关统一管理，构成泛在的网络加速服务层

1 O  ~. g) H* i. r( H统一的设备状态数据库、网络拓扑显示界面

支持二层、三层路由转发，支持ACL，支持负载均衡等功能应用

) {* P5 I  Y/ K( N' T! B多元网络功能统一调度，支持动态赋能

基于FAST的软硬件功能协同

" P8 o" p4 d$ W: s1 KRMT多级流水ALU处理

2 r7 {' u, ^) o; s1 H" Z
+ b# d9 `1 K- M二、应用场景

3 J9 F) A8 s1 y3 w1、软件定义智能网卡原型
( K! L0 S/ D- ]* Z7 o" `  D1 I
云数据中心应用种类繁多，针对云-端通信，适配了主流的网络传输层协议QUIC
  O7 y: P/ A/ o' x
面向云数据中心多租户应用，基于智能网卡原型，部署了k8s虚拟化环境，容器虚拟网络二层交换、三层转发功能
$ h: P5 ]  h5 p3 R+ r) J* o
与系统协议栈、云计算平台等具有良好的兼容性

支持软件定义边界扩展到服务器第一跳
' x9 C+ S3 k; w4 \# F

& K, G0 U1 R( z0 L2、超融合安全网关
0 c! ?, g2 ]3 z! F/ j
% f: M+ G5 I/ f4 \以自主可控高性能交换芯片为前端分流器，泛在网络加速器FPGA作为业务运行平台，支持网关功能加速

数据中心门户业务负载均衡、NAT等
  a: k/ n: u6 @( M% v
& m& \& A3 _  {流量压缩解压缩、加解密、清洗等
' b  n8 T) d: z5 f
3 Z+ v+ S3 [2 v! h, k' a应用防火墙等功能卸载
! V; e8 n6 V) L' ?; q1 @9 }
* |6 F, C( w. E+ A7 \( @基于加速器FPGA开发框架对网关进行重构和功能扩展
% P! C8 q1 @  r3 H1 h
: ^" E) J3 g8 N7 p- V3 W( O- D基于加速器FPGA开发新型网关功能，如隐蔽信道检测、地址跳变等

- m: C) |5 `3 p- s# W与智能网卡共同支撑数据中心网络纵深安全
7 L. s1 c6 b0 S) p
. L; j; I/ B+ h8 D
3、异构可重构计算架构
6 f' B9 w: F. ]  v
计算、加速、I/O基于敏捷交换解耦，易于资源扩展、统一管理、开发集成。

" w8 j9 O0 h) @! {
+ M, \1 g3 O, U7 m6 L* t计算：轻量级虚拟化FAST UA；类Docker的虚拟化技术；支持自定义功能的卸载和负载均衡

加速：泛在网络加速器FPGA即服务；泛在网络加速器FPGA OS；加速与卸载等算力提升的重要手段
0 B! v/ ^" O* d( s
互连：低延迟时间触发通信

cyberbot8

云、网、边协同的算力网络、在网计算的Dis-aggregation数据中心网络、以及异构计算系统总线中计算和网络协同和融合，提出了泛在网络加速器架构FIA

land

计算、加速、I/O基于敏捷交换解耦，易于资源扩展、统一管理、开发集成

mqerew

泛在网络加速器抽象FPGA OS：提供了DMA、网络接口、数据缓存、控制总线等外围基本模块
# \$ q& I  ^. e" m) q