DPU（數(shù)據(jù)處理單元）作為繼CPU和GPU之后的的第三顆主力芯片，所解決的核心問題是幫助數(shù)據(jù)中心基礎(chǔ)設(shè)施“降本增效”——將“CPU處理效率低下、GPU處理不了”的負(fù)載卸載到DPU上。DPU不僅可以作為運(yùn)算的加速引擎，還具備控制平面的功能，能夠運(yùn)行Hypervisor，更高效地完成網(wǎng)絡(luò)虛擬化、IO虛擬化、存儲虛擬化等任務(wù)，徹底將CPU的算力釋放給應(yīng)用程序，提升數(shù)據(jù)中心的有效算力。

近日，星融元數(shù)據(jù)聯(lián)合智東西推出了主題為“開源DPU技術(shù)與應(yīng)用場景”的技術(shù)公開課。星融元DPU技術(shù)負(fù)責(zé)人張敏以線上直播的形式，面向DPU開發(fā)從業(yè)者以及對相關(guān)技術(shù)感興趣的各界人士，介紹了 Helium DPU產(chǎn)品開源的目的和進(jìn)展、軟硬件架構(gòu)以及幾大典型應(yīng)用場景?，F(xiàn)將直播要點(diǎn)整理如下，歡迎更多同仁與我們交流。

開源的目的與進(jìn)展

構(gòu)建開放網(wǎng)絡(luò)是星融元一直堅(jiān)持的理念，我們深知開源的力量。

開源模式有助于以市場自然選擇的方式實(shí)現(xiàn)最優(yōu)的發(fā)展路徑：一方面廣大社區(qū)里的廣大開發(fā)者可以幫助檢查軟件代碼漏洞，另一方面我們也能借助平臺幫助DPU行業(yè)的技術(shù)人員快速地解決問題。

更重要的是，在創(chuàng)意的碰撞和交流過程中共同進(jìn)步，一同探索新場景實(shí)現(xiàn)產(chǎn)品快速迭代。

目前星融元已將所有DPU產(chǎn)品開源到Github上，提供已驗(yàn)證的應(yīng)用場景以及對應(yīng)的軟硬件技術(shù)實(shí)現(xiàn)，接下來也將不斷更新提交，預(yù)計(jì)將于2023年11月推出下一代DPU產(chǎn)品。

相關(guān)閱讀：這款國產(chǎn)高性能DPU智能網(wǎng)卡，即將開源！

Helium DPU卡的硬件架構(gòu)

我們可以結(jié)合下圖來了解Helium的硬件架構(gòu)，整個DPU卡是由24個ARM核和一些用于網(wǎng)絡(luò)處理的重要硬件模塊組成的。因公開課時間有限，張敏重點(diǎn)介紹了用于流量解析和分類的Network Parser和用于流量調(diào)度的Scheduler模塊。

Network Parser主要實(shí)現(xiàn)自定義報(bào)文的快速解析和對內(nèi)層復(fù)雜報(bào)文的深度解析（參考下圖），而Scheduler模塊的報(bào)文調(diào)度處理能力，可以將接收到的報(bào)文分配到不同的工作隊(duì)列，對應(yīng)到DPDK里，即是將報(bào)文分配到不同的RX queues與各個核心綁定。

值得一提的是，Scheduler可以支持將一條五元組相同流的不同報(bào)文分發(fā)到多個核心，這種特性十分適合應(yīng)對數(shù)據(jù)中心常見的"大象流"和"老鼠流"問題——在網(wǎng)絡(luò)突發(fā)大流量情況下，"大象流"的數(shù)據(jù)仍然可以負(fù)載均衡到多核心處理，由此避免了因單核處理導(dǎo)致的性能瓶頸，以及"老鼠流"的丟包現(xiàn)象。

此外，Helium DPU 還有用于DPI（深度報(bào)文檢測）和加速虛擬化管理的模塊等等，感興趣的讀者可自行前往產(chǎn)品的開源頁面查看。

開源地址：https://github.com/asterfusion/Helium_DPU

一站式的綜合開發(fā)環(huán)境，F(xiàn)usionNOS-Framework

Helium 所提供的軟件開發(fā)套件（FusionNOS-Framework）包括三大部分。

• 標(biāo)準(zhǔn)的Linux內(nèi)核，方便開發(fā)者安裝應(yīng)用相關(guān)的各種依賴，并且有大量可選的軟件源。

• 容器化的架構(gòu)。我們可以打包運(yùn)行環(huán)境和依賴到一個可移植的鏡像中，實(shí)現(xiàn)輕量的資源隔離，做到一次編譯，隨處運(yùn)行，并且每個實(shí)例的初始狀態(tài)皆是一致的。

• 額外提供的DPDK和VPP開發(fā)套件，加速軟件快速移植，用戶也可以很方便去拓展自己的應(yīng)用。

DPDK開發(fā)套件

目前星融元DPU開發(fā)團(tuán)隊(duì)上傳在Github的是DPDK 22.11版本，它既可以在x86平臺上交叉編譯，也可以直接在DPU卡上編譯；編譯完成，只需配置大頁內(nèi)存并綁定接口，啟動DPDK應(yīng)用程序后即可開始收發(fā)包處理。

22.11以后的版本已支持P4 DPDK，這意味著Helium上完全可以運(yùn)行P4程序，讓交換機(jī)的流水線在DPU上跑起來。

VPP開發(fā)套件

VPP開發(fā)套件主要有以下三大特性：

• 矢量運(yùn)算：單個指令，多個數(shù)據(jù)并行處理

• plugins機(jī)制：支持啟動時動態(tài)加載自己開發(fā)的plugins

• node機(jī)制：支持圖形化展示各個節(jié)點(diǎn)的處理關(guān)系

基于DPU池化方案的典型應(yīng)用場景

星融元DPU的算力池方案的核心思想是采用標(biāo)準(zhǔn)服務(wù)器+多塊Helium DPU卡的形式，將原本獨(dú)立部署在各個服務(wù)器的網(wǎng)絡(luò)功能池化到各塊DPU卡上，進(jìn)而實(shí)現(xiàn)優(yōu)化資源分配，簡化運(yùn)維管理的目標(biāo)。

以DPI（深度報(bào)文檢測）為例，通過Helium DPU資源池可以加速對業(yè)務(wù)報(bào)文的深度解析，識別出不同類型的流（視頻、音頻、網(wǎng)頁流…）；借助復(fù)雜的特征提取和匹配模塊，這種分類可以精確到具體的應(yīng)用類型（比如某平臺的視頻流等等）。該方案支持分布部署、集中管理，一鍵更新所有DPI識別庫。

到了邊緣云場景，DPU池化方案亦可幫助節(jié)約機(jī)架空間，便于機(jī)房電源管理，降低機(jī)房建設(shè)和能耗成本超50%。

關(guān)注vx公號“星融元Asterfusion”，獲取更多技術(shù)分享和最新產(chǎn)品動態(tài)