毫無疑問，今天AI正與產(chǎn)業(yè)結(jié)合得越來越緊密，從自動駕駛，到智慧醫(yī)療，智慧金融、智慧城市等，AI已經(jīng)開始滲透到我們生活的方方面面。實(shí)際上，即便目前來自傳統(tǒng)行業(yè)用戶的AI轉(zhuǎn)型需求尚未完全激活爆發(fā)，但僅僅是浮出水面的這部分需求已經(jīng)是一個(gè)萬億級別的超級市場規(guī)模。

與此同時(shí)，AI的應(yīng)用還拓展到了之前人們未曾想到的地方——那就是邊緣側(cè)。IDC預(yù)計(jì)，全球邊緣計(jì)算服務(wù)器市場未來五年的年復(fù)合增長率會達(dá)到20.2%；而在中國市場，邊緣計(jì)算服務(wù)器市場未來五年的年復(fù)合增長率更是高達(dá)76.7%。

這也意味著，伴隨著AI行業(yè)應(yīng)用的不斷深入，參數(shù)空間會更大、結(jié)構(gòu)更加復(fù)雜，算力消耗更高的大型AI模型會不斷涌現(xiàn)，同時(shí)由于大部分的數(shù)據(jù)還需要在網(wǎng)絡(luò)邊緣分析、處理與儲存，當(dāng)連接數(shù)的不斷增加，所需要的邊緣AI算力也會呈“指數(shù)級”增長。

那么，如何才能更好地破解行業(yè)AI和邊緣AI爆發(fā)所帶來的這種挑戰(zhàn)？換句話說，當(dāng)“邊緣”遇見“AI”，究竟如何才能更好地跨越背后的算力“鴻溝”呢？

當(dāng)邊緣遇見AI，背后的雙重挑戰(zhàn)

可以看到，人工智能的變革力量和能力提高了企業(yè)業(yè)務(wù)運(yùn)營的便利性以及企業(yè)的投資回報(bào)率，但隨著企業(yè)數(shù)據(jù)空前地增長和擴(kuò)張，且工作負(fù)載也在復(fù)雜多變的系統(tǒng)中以各種方式流動，這不僅加劇了企業(yè)和行業(yè)利用AI的能力，同時(shí)其位置的復(fù)雜性也讓邊緣AI的重要性隨之增加，更讓企業(yè)面臨著全新的挑戰(zhàn)，我們可以從兩個(gè)維度來做觀察：

一方面，從行業(yè)AI角度看，目前AI技術(shù)正在加速與各個(gè)主要行業(yè)融合，創(chuàng)造出了更多的行業(yè)應(yīng)用場景。但與此同時(shí)，這些行業(yè)AI的應(yīng)用也加大了對計(jì)算力的消耗，數(shù)據(jù)顯示目前AI算力平均2-3個(gè)月就會增長一倍，AI模型越來越龐大，模型的參數(shù)規(guī)模也在快速增長，因此針對AI的計(jì)算和訓(xùn)練，不僅需要引入多樣化的計(jì)算方式，同時(shí)針對AI的大規(guī)模訓(xùn)練，僅依靠提升AI加速芯片單卡性能變得非常困難，這也讓多機(jī)多卡分布式訓(xùn)練“勢在必行”，但是和AI服務(wù)器通常采用單機(jī)訓(xùn)練的方式相比，多機(jī)GPU分布式訓(xùn)練是一個(gè)系統(tǒng)工程，需要打破“通信墻”和“IO墻”的制約。

另一方面，從邊緣AI角度看，邊緣AI的崛起同樣也帶來了云邊端協(xié)同挑戰(zhàn)。在此過程中，隨著應(yīng)用創(chuàng)新速度加快，應(yīng)用種類和數(shù)量繁多，也會讓傳統(tǒng)的數(shù)據(jù)中心基礎(chǔ)架構(gòu)，越來越難以滿足行業(yè)邊緣應(yīng)用場景的訴求，比如算力的要求、業(yè)務(wù)實(shí)時(shí)性、數(shù)據(jù)的安全與隱私等等，再加上邊緣運(yùn)行環(huán)境的嚴(yán)苛要求，在讓整個(gè)邊緣計(jì)算市場迎來巨大機(jī)遇的同時(shí)也面臨著更加嚴(yán)峻的挑戰(zhàn)。

由此可見，AI的快速發(fā)展，在推動行業(yè)AI廣泛落地的同時(shí)，也會使得來自邊緣的數(shù)據(jù)得以快速增長，在此過程中最為重要的AI算力資源不僅需要由傳統(tǒng)的數(shù)據(jù)中心承擔(dān)，也需要在邊緣進(jìn)行預(yù)處理或初步處理，這些新應(yīng)用和新場景都會讓AI算力需求邁入一個(gè)全新的時(shí)代。

智能產(chǎn)業(yè)加速，如何釋放AI算力

事實(shí)上，深度學(xué)習(xí)作為這一輪AI產(chǎn)業(yè)熱潮的主要技術(shù)推動力，與經(jīng)典機(jī)器學(xué)習(xí)算法相比，對計(jì)算力的需求高很多。在此背景下，如果企業(yè)在應(yīng)用AI時(shí)，仍然通過在一臺服務(wù)器上插可能多的GPU卡這種簡單、粗放的方式實(shí)現(xiàn)AI計(jì)算平臺的構(gòu)建，顯然是難以化解AI算力增長的挑戰(zhàn)的，因此戴爾科技認(rèn)為，新一代AI計(jì)算平臺的建設(shè)，將會向“多樣化、集群化、精細(xì)化”方向發(fā)展。

一是，在多樣化方面，主要指的需要引入更加多元化的AI加速芯片技術(shù)。可以看到，目前頭部AI用戶已經(jīng)在尋找更高性能，或者更高性價(jià)比的AI加速芯片技術(shù)，包括更多品牌的GPU，以及專門為AI深度學(xué)習(xí)設(shè)計(jì)的AI神經(jīng)網(wǎng)絡(luò)專用加速芯片(NPU)。

在這方面，戴爾科技已經(jīng)為行業(yè)用戶打造了一套端到端的AI基礎(chǔ)架構(gòu)硬件解決方案，包括各類型的AI加速服務(wù)器，通過采用GPU/FPGA/CPU/AI專用加速芯片IPU等滿足用戶的多樣化需求。此外，在AI軟件平臺領(lǐng)域，戴爾科技也提供基礎(chǔ)設(shè)施硬件與AI框架軟件與學(xué)習(xí)庫的適配和優(yōu)化，并提供針對AI計(jì)算集群集中管理及資源調(diào)度分配的軟件解決方案；同時(shí)，針對當(dāng)前AI計(jì)算的熱點(diǎn)技術(shù)，比如GPU虛擬化、GPU分布式訓(xùn)練，戴爾也提供了針對性的解決方案。

二是，在集群化方面，針對AI計(jì)算集群及多機(jī)多卡分布式訓(xùn)練，戴爾科技也為行業(yè)用戶提供包含計(jì)算、存儲、網(wǎng)絡(luò)以及框架軟件優(yōu)化在內(nèi)的整體解決方案，同時(shí)還發(fā)布了《戴爾科技AI GPU分布式訓(xùn)練白皮書》，為用戶在構(gòu)建AI計(jì)算集群及多機(jī)多卡分布式訓(xùn)練，提供了更多借鑒和參考的價(jià)值。

不僅如此，戴爾PowerEdge服務(wù)器家族中，還提供了多款專門針對GPU計(jì)算設(shè)計(jì)和優(yōu)化的服務(wù)器，包括PowerEdge R750xa和PowerEdge XE8545，其中PowerEdge R750xa，可為要求苛刻的新興工作負(fù)載和GPU密集型工作負(fù)載提供出色的性能，它可以支持更多的GPU選型，支持NVLink Bridge技術(shù)實(shí)現(xiàn)GPU高速兩兩通信；而PowerEdge XE8545則是一款4U機(jī)架式實(shí)現(xiàn)4塊A100 pear-to-pear NVLink全互連的GPU加速服務(wù)器，其AI模型訓(xùn)練計(jì)算性能提升了5%-15%。

測試數(shù)據(jù)顯示，戴爾科技通過6臺PowerEdge XE8545，24張A100的GPU計(jì)算集群，運(yùn)行主流圖像分類模型的GPU分布式訓(xùn)練，實(shí)現(xiàn)了88%-96%的線性加速比。而在2021年下半年在業(yè)界最受關(guān)注的AI性能基準(zhǔn)測試MLPerf中，戴爾科技在MLPerf Training v1.1基準(zhǔn)測試中，提交了一項(xiàng)基于PowerEdge R750xa的分布式訓(xùn)練測試數(shù)據(jù)，通過采用2臺8卡A100，4臺16卡A100，運(yùn)行圖像分類的基準(zhǔn)測試，同單臺R750xa相比，也分別實(shí)現(xiàn)了1.96倍和3.63倍的加速效果。

三是，在精細(xì)化方面，是否能夠?qū)崿F(xiàn)GPU的算力“切割”，實(shí)現(xiàn)更多應(yīng)用的算力共享的GPU虛擬化技術(shù)，同樣也是現(xiàn)在很多行業(yè)用戶構(gòu)建AI計(jì)算平臺提出的新需求。

基于此，2021年戴爾科技聯(lián)合NVIDIA、Vmware推出了AI GPU虛擬化平臺解決方案NVIDIA AI Enterprise（NVAIE），在Vmware虛擬化和云原生平臺上部署NVIDIA AI及數(shù)據(jù)分析軟件套件。項(xiàng)目中的測試數(shù)據(jù)也顯示，在PowerEdge R750xa與A100 GPU硬件設(shè)備上，通過NVIDIA AI Enterprise進(jìn)行GPU算力“切割”，可以實(shí)現(xiàn)與裸金屬幾乎相當(dāng)?shù)腁I計(jì)算速度，也使得該用戶的平臺在線用戶數(shù)可以提升幾倍。

不難看出，針對行業(yè)AI落地中出現(xiàn)的“多樣化、集群化和精細(xì)化”需求，戴爾科技通過打造一系列端到端的解決方案，同時(shí)在產(chǎn)品方面不斷“創(chuàng)新求變”，不僅最大化的滿足了行業(yè)用戶對AI算力的需求，同時(shí)也加速了行業(yè)AI的應(yīng)用落地進(jìn)程。

從創(chuàng)新到實(shí)踐，推動邊緣AI落地

正如前文所言，邊緣AI也成為了新的發(fā)展趨勢，同樣越來越多的企業(yè)也認(rèn)識到，AI算力資源不僅需要傳統(tǒng)的數(shù)據(jù)中心承擔(dān)，也需要在邊緣進(jìn)行預(yù)處理或初步處理，而這些新應(yīng)用和新場景都會讓整個(gè)邊緣計(jì)算面臨新的挑戰(zhàn)，因此如何快速、簡單、有效地部署，然后安全、高效地運(yùn)行，同時(shí)不犧牲業(yè)務(wù)及其客戶的性能和可用性，也成為了當(dāng)前邊緣AI落地的重要挑戰(zhàn)。

針對這些需求，戴爾科技也推出了適應(yīng)AI邊緣計(jì)算場景的邊緣優(yōu)化服務(wù)器PowerEdge XR11和PowerEdge XR12，同時(shí)積極深入行業(yè)應(yīng)用落地場景，利用人工智能技術(shù)以及邊緣/核心計(jì)算解決方案，在邊緣AI領(lǐng)域進(jìn)行了一系列的探索與實(shí)踐。

以此為基礎(chǔ)，戴爾科技還打造了邊緣AI智能創(chuàng)新方案——Edge-In-a-Box一體化交付方案，該方案實(shí)現(xiàn)了邊緣的IT和數(shù)據(jù)中心基礎(chǔ)架構(gòu)的融合；能夠最大限度地減少延遲；且能夠?qū)崟r(shí)處理相關(guān)數(shù)據(jù)；支持一體化基礎(chǔ)結(jié)構(gòu)部署；具備遠(yuǎn)程運(yùn)維能力，同時(shí)能夠確保100% 正常運(yùn)行時(shí)間，而這套邊緣AI智能創(chuàng)新方案也具備三個(gè)方面的優(yōu)勢：包括能夠通過標(biāo)準(zhǔn)化設(shè)計(jì)來簡化采購和部署流程，預(yù)先設(shè)計(jì)的模塊化智能解決方案減少了“系統(tǒng)啟動”的成本和時(shí)間；通過將電力和制冷及管理的綜合能力與行業(yè)最好的服務(wù)相結(jié)合，能為客戶提供高性能、高可用性和高效的能源；更為關(guān)鍵的是，通過IT與數(shù)據(jù)中心基礎(chǔ)架構(gòu)融合，幫助更多的客戶滿足向其業(yè)務(wù)和客戶快速提供服務(wù)的需求。

而在推動邊緣AI落地方面，戴爾科技也和國家賽艇、皮劃艇隊(duì)合作，并以新一代實(shí)時(shí)算力能力為賽艇動作實(shí)時(shí)捕捉和生物力學(xué)分析提供支持，由于國家賽艇、皮劃艇隊(duì)隊(duì)員會經(jīng)常前往不同國家和城市的不同訓(xùn)練基地，同時(shí)在每個(gè)基地進(jìn)行數(shù)周或者數(shù)月的劃船訓(xùn)練，因此期間的挑戰(zhàn)頗為巨大，如不能指望在訓(xùn)練場地有高速、穩(wěn)定的網(wǎng)絡(luò)連接，部署的邊緣服務(wù)器會面臨基地潮濕環(huán)境的挑戰(zhàn)等。

為此，戴爾科技提供的邊緣AI智能創(chuàng)新解決方案，通過視頻實(shí)時(shí)捕捉國家隊(duì)運(yùn)動員的訓(xùn)練動作，并作出實(shí)時(shí)分析和判斷，糾正運(yùn)動訓(xùn)練中動作角度、力度，以及穩(wěn)定性的偏差，幫助賽艇運(yùn)動員提高訓(xùn)練競技水平。

值得一提的是，國內(nèi)的不少“智慧港口”目前也裝備了戴爾參與打造的智能化龍門吊系統(tǒng)，運(yùn)用AI技術(shù)，通過多路視頻，結(jié)合PLC狀態(tài)信息，融合了防打保齡、防吊起、大車自動糾偏、大車防撞、集卡智能定位、集裝箱信息識別、箱底扭鎖識別、作區(qū)域安全管理八項(xiàng)功能，這樣通過“一個(gè)大腦、一套傳感”，就實(shí)現(xiàn)了龍門吊的智能化。

總的來說，在邊緣AI解決方案方面，戴爾科技已經(jīng)能夠?yàn)榭蛻籼峁倪吘墤?yīng)用、數(shù)據(jù)收集、邊緣計(jì)算與分析、實(shí)時(shí)分析、數(shù)據(jù)維護(hù)到人工智能深度學(xué)習(xí)的端到端解決方案，打造最完整的跨邊緣、核心和云的解決方案組合，并支持開放生態(tài)系統(tǒng)中的各種邊緣工作負(fù)載。

隨著數(shù)據(jù)的爆發(fā)式增長，給企業(yè)利用人工智能應(yīng)用帶來了更大的挑戰(zhàn)，但同樣也給整個(gè)市場帶來了前所未有的機(jī)遇。而在此過程中，戴爾科技集團(tuán)始終保持著不斷地投入與創(chuàng)新，進(jìn)化與迭代，不僅在數(shù)據(jù)中心提供“多樣化、集群化和精細(xì)化”的AI算力方案支撐企業(yè)的人工智能應(yīng)用；同時(shí)在邊緣端，也提供新一代的實(shí)時(shí)邊緣算力，并打造了邊緣AI智能創(chuàng)新方案，驅(qū)動企業(yè)走向邊緣AI時(shí)代，可以說讓AI真正走向千行百業(yè)奠定了關(guān)鍵基礎(chǔ)，其價(jià)值“不止于現(xiàn)在，更關(guān)乎未來。”