華為昇騰分析:驅(qū)動因素、框架研究、產(chǎn)業(yè)生態(tài)及相關(guān)公司
由大模型驅(qū)動的生成式AI迎來技術(shù)突破,技術(shù)革命帶來產(chǎn)業(yè)重構(gòu)。其中算力基礎(chǔ)支撐整體技術(shù)變革發(fā)展,是重要基石。華為昇騰是我國國產(chǎn)算力領(lǐng)軍企業(yè),近年來發(fā)展穩(wěn)中求進(jìn),隨著技術(shù)進(jìn)步帶來的算力總需求提升和中美競爭帶來的國產(chǎn)化趨勢,華為憑借其綜合優(yōu)勢,最有望在國產(chǎn)算力產(chǎn)業(yè)競爭中勝出,其產(chǎn)業(yè)鏈合作伙伴受益。
01
概述
1、昇騰計(jì)算
昇騰計(jì)算產(chǎn)業(yè)是基于昇騰系列處理器和基礎(chǔ)軟硬件構(gòu)建的全棧AI計(jì)算基礎(chǔ)設(shè)施、行業(yè)應(yīng)用及服務(wù)。2018年10月,華為全聯(lián)接大會正式發(fā)布首款采用華為自研達(dá)芬奇架構(gòu)的AI訓(xùn)練芯片昇騰910與AI推理芯片昇騰310,并于2019年正式投入商用。2019年9月,華為推出昇騰AI計(jì)算架構(gòu),包括昇騰處理器、昇騰AI加速模塊和昇騰AI開發(fā)環(huán)境,初步形成AI計(jì)算解決方案。
昇騰計(jì)算致力于完善AI計(jì)算產(chǎn)業(yè)生態(tài),以自身軟硬件體系為核心,聯(lián)合制造、設(shè)計(jì)、集成、開發(fā)等軟硬件合作伙伴與咨詢、運(yùn)營、人才培養(yǎng)等服務(wù)合作伙伴,投入各個行業(yè)應(yīng)用實(shí)現(xiàn)生產(chǎn)力升級核心目標(biāo)。
2、昇騰計(jì)算架構(gòu)
昇騰計(jì)算架構(gòu)由硬件、基礎(chǔ)軟件、應(yīng)用使能與行業(yè)應(yīng)用及服務(wù)四層構(gòu)成。昇騰AI應(yīng)用開發(fā)過程以芯片及處理器等硬件為基礎(chǔ),CANN(異構(gòu)計(jì)算框架)承接硬件與計(jì)算框架,搭配自有開發(fā)與管理工具,聯(lián)接應(yīng)用使能以投入具體行業(yè)應(yīng)用。目前昇騰計(jì)算產(chǎn)業(yè)已發(fā)展為包括昇騰系列芯片、硬件、CANN、AI計(jì)算框架、應(yīng)用使能、開發(fā)工具鏈、管理運(yùn)維工具等全產(chǎn)業(yè)鏈的完整體系。

02
驅(qū)動因素
1、大模型革命,算力需求爆發(fā)
(1)新技術(shù)發(fā)展帶來算力需求躍升
人工智能算法模型的突破有兩個方向:新架構(gòu)和更大量級的參數(shù)量。大模型誕生之前,算法的突破主要集中于算法結(jié)構(gòu)與邏輯兩個方面。由于算法的計(jì)算底層資源仍存缺陷,以及模型的有限性導(dǎo)致數(shù)據(jù)量的指數(shù)性量級變化并未帶來更優(yōu)的計(jì)算結(jié)果,算法發(fā)展在數(shù)年間并未取得參數(shù)量級方面的巨大突破。

大模型實(shí)現(xiàn)量質(zhì)齊變,人工智能發(fā)展有望開啟新篇章。當(dāng)前時點(diǎn),(1)計(jì)算芯片性能不斷提升,例如英偉達(dá)A100 GPU的性能相較于上一代產(chǎn)品提升了20倍,首次推出世界上最快的內(nèi)存帶寬,可運(yùn)行最大的模型和數(shù)據(jù)集;(2)信息技術(shù)發(fā)展不斷成熟,加速從工業(yè)經(jīng)濟(jì)向數(shù)字經(jīng)濟(jì)轉(zhuǎn)變,算力和數(shù)據(jù)均已具備迎接下一次浪潮的基礎(chǔ)。大模型的出現(xiàn),在算法結(jié)構(gòu)層面實(shí)現(xiàn)了進(jìn)一步突破,同時參數(shù)量指數(shù)級增加。

以GPT為例,根據(jù)OpenAI相關(guān)資料,訓(xùn)練階段算力需求與模型參數(shù)數(shù)量、訓(xùn)練數(shù)據(jù)集規(guī)模等有關(guān),且為兩者乘積的6倍??紤]到實(shí)際使用過程中的算力利用中的損耗,則實(shí)際總投入的算力資源或要求更高。

(2)大模型時代,算力結(jié)構(gòu)向算力集群發(fā)展
在AI訓(xùn)練技術(shù)發(fā)展趨勢中,訓(xùn)練神經(jīng)網(wǎng)絡(luò)是一個迭代過程。在每次迭代中,都會通過模型的層計(jì)算一批數(shù)據(jù)中每個訓(xùn)練樣本的輸出,然后繼續(xù)進(jìn)行下一層,通過梯度計(jì)算每個參數(shù)。批處理的平均梯度、參數(shù)和一些每個參數(shù)的優(yōu)化狀態(tài)將傳遞給優(yōu)化算法。隨著訓(xùn)練迭代數(shù)據(jù)批次,模型會不斷發(fā)展以生成越來越準(zhǔn)確的輸出。這個過程中,各種并行技術(shù)將訓(xùn)練過程分為不同的維度,包括:
數(shù)據(jù)并行性:在不同的GPU上運(yùn)行批處理的不同子集;
流水線并行性:在不同的GPU上運(yùn)行模型的不同層;
張量并行性:分解單個操作的數(shù)學(xué)運(yùn)算,例如要在GPU之間拆分的矩陣乘法;
專家混合:僅按每層的一小部分處理每個示例。

隨著大模型的到來,算力的概念變得更綜合,更多是計(jì)算、存儲、網(wǎng)絡(luò)一體化解決方案的融合。大模型的構(gòu)建是一個系統(tǒng)級工程,需要對服務(wù)器集群進(jìn)行整體優(yōu)化。由于大模型需要龐大的訓(xùn)練任務(wù),需要由大量GPU服務(wù)器組成的算力集群來提供算力,并通過網(wǎng)絡(luò)進(jìn)行大規(guī)模數(shù)據(jù)交換。根據(jù)客戶需求,單純的GPU不足夠,需要建立綜合的解決方案,將服務(wù)器、存儲和網(wǎng)絡(luò)整合為一個完整的解決方案,以幫助用戶建立大模型環(huán)境,并應(yīng)用到各行業(yè)。
千億、萬億參數(shù)規(guī)模的大模型,訓(xùn)練過程中通信占比可能會很大,傳統(tǒng)低速網(wǎng)絡(luò)的帶寬遠(yuǎn)遠(yuǎn)無法支撐。同時,傳統(tǒng)網(wǎng)絡(luò)協(xié)議容易導(dǎo)致網(wǎng)絡(luò)擁塞、高延時和丟包,最終造成算力資源的嚴(yán)重浪費(fèi)。這也進(jìn)一步說明,大模型發(fā)展是典型的木桶效應(yīng),任何一塊短板,都會影響整體的性能。大帶寬、高利用率、信息無損,則是AI大模型時代網(wǎng)絡(luò)能力面臨的核心挑戰(zhàn)。

連接的傳統(tǒng)交換機(jī)對于處理現(xiàn)在的生成式AI負(fù)載太慢。而且現(xiàn)在還處在AI革命開端,傳統(tǒng)交換機(jī)對于普通商品云可能夠用,但對于生成式AI的云負(fù)載而言,無法提供規(guī)模化所需性能。集群通信能力成為木桶效應(yīng)最需要關(guān)注的一塊“板”,是決定算力高低的最重要因素。在相同代際的GPU芯片場景下,網(wǎng)絡(luò)通信能力和算力芯片本身同等重要。
2、科技博弈,國產(chǎn)算力為安全基石
聚焦國產(chǎn)算力芯片領(lǐng)域,以下產(chǎn)業(yè)趨勢支撐國產(chǎn)芯片廠商迎來較好發(fā)展機(jī)會:
國內(nèi)AI、算力發(fā)展面臨卡脖子等難題。去年8月份,英偉達(dá)收到美國政府通知,限制公司未來向中國和俄羅斯出口A100、H100,且限制還包括NVIDIA未來任何峰值性能和芯片對芯片的I/O性能均等于或大于A100的閾值的產(chǎn)品。同年10月,美國商務(wù)部(BIS)公布了對于中國出口管制新規(guī)聲明,主要針對先進(jìn)芯片及芯片制造設(shè)備,其中包括應(yīng)用于AI、超算等HPC領(lǐng)域的CPU、GPU、AI加速器等高算力芯片或含有此類芯片的計(jì)算機(jī)商品,同時對已被列入實(shí)體名單的28家中國實(shí)體進(jìn)一步加強(qiáng)出口管制,包括多家中國CPU、GPU芯片設(shè)計(jì)公司及AI算法公司。
國家政策支持,國產(chǎn)算力芯片在關(guān)鍵領(lǐng)域存在保障性采購。基于供應(yīng)鏈安全和算力保障考慮下,能夠認(rèn)為在我國算力基數(shù)設(shè)施發(fā)展過程中,自主算力芯片有望獲得更多的政策支持,尤其是涉及到國家安全的黨政軍及關(guān)鍵基數(shù)設(shè)施領(lǐng)域。參考工業(yè)和信息化部印發(fā)的《新型數(shù)據(jù)中心發(fā)展三年行動計(jì)劃(2021-2023)》中所指出的,要推動CPU、GPU等異構(gòu)算力提升,逐步提高自主研發(fā)算力的部署比例,推進(jìn)新型數(shù)據(jù)中心算力供應(yīng)多元化。
推理芯片門檻相對較低,或先從低端領(lǐng)域?qū)崿F(xiàn)國產(chǎn)化芯片市占率提升。相比于訓(xùn)練芯片,推理芯片技術(shù)門檻較低,未來隨著大模型的成熟和商業(yè)化的廣泛落地,推理需求隨之上升。IDC研究發(fā)現(xiàn),2021年上半年中國人工智能芯片中,GPU依然是實(shí)現(xiàn)數(shù)據(jù)中心加速的首選,占有90%以上的市場份額,而ASIC,F(xiàn)PGA,NPU等其他非GPU芯片也在各個行業(yè)和領(lǐng)域被越來越多地采用,整體市場份額接近10%,預(yù)計(jì)到2025年其占比將超過20%。而其中GPU芯片是以英偉達(dá)為代表的高端芯片,而其他類型芯片中國產(chǎn)廠商競爭差距縮小。
03
市場及趨勢分析
1、算力行業(yè)高景氣有望持續(xù)
根據(jù)IDC測算,國內(nèi)智能算力規(guī)模正在高速增長,2021年中國智能算力規(guī)模達(dá)155.2每秒百億億次浮點(diǎn)運(yùn)算(EFLOPS),2022年智能算力規(guī)模達(dá)到268.0EFLOPS,預(yù)計(jì)到2026年智能算力規(guī)模將進(jìn)入每秒十萬億億次浮點(diǎn)計(jì)算(ZFLOPS)級別,達(dá)到1,271.4EFLOPS。2021-2026年期間,預(yù)計(jì)中國智能算力規(guī)模年復(fù)合增長率達(dá)52.3%。

通用算力規(guī)模也正在高速增長,根據(jù)IDC測算,2021年中國通用算力規(guī)模達(dá)47.7EFLOPS,預(yù)計(jì)到2026年通用算力規(guī)模將達(dá)到111.3EFLOPS。2021-2026年期間,預(yù)計(jì)中國通用算力規(guī)模年復(fù)合增長率為18.5%。

中國智能芯片市場規(guī)模保持高速增長。隨著大數(shù)據(jù)的發(fā)展和計(jì)算能力的提升,中國智能芯片市場將保持快速的增長趨勢。根據(jù)寒武紀(jì)招股書預(yù)計(jì),2022年中國人工智能芯片市場規(guī)模會達(dá)到368億元,2024年市場規(guī)模將達(dá)到785億元,復(fù)合增速有望達(dá)到46%。

2、內(nèi)循環(huán)驅(qū)動,共同成長
在歷次美國對中國制裁后,整體呈現(xiàn)制裁范圍越來越廣,受限公司越來越多趨勢,其中不乏科技領(lǐng)域的眾多領(lǐng)軍公司,受限于芯片采購限制,也倒逼了這些公司進(jìn)一步擁抱國產(chǎn)算力,有望實(shí)現(xiàn)國內(nèi)市場內(nèi)循環(huán),抱團(tuán)成長。
科大訊飛等國產(chǎn)大模型廠商積極擁抱昇騰。2023年7月6日,昇騰人工智能產(chǎn)業(yè)高峰論壇在上海舉辦。論壇現(xiàn)場,華為聯(lián)合四家伙伴共同發(fā)布昇騰AI大模型訓(xùn)推一體化解決方案,加速大模型在各行業(yè)里快速落地應(yīng)用。并有23家昇騰AI伙伴推出AI服務(wù)器、智能邊緣與終端新品,共同為行業(yè)智能化升級提供豐富的產(chǎn)品與解決方案。

華為昇騰生態(tài)和客戶正不斷壯大。2023年7月6日,昇騰人工智能產(chǎn)業(yè)高峰論壇在上海舉辦。論壇現(xiàn)場,華為全新推出“昇騰伙伴網(wǎng)絡(luò)”(簡稱APN)合作伙伴計(jì)劃,并公布首批12家APN伙伴名單。
3、基于國產(chǎn)昇騰AI平臺,助力人工智能普惠化
在華為伙伴暨開發(fā)者大會2022上,“中國算力網(wǎng)—智算網(wǎng)絡(luò)”上線。智算網(wǎng)絡(luò)是中國算力網(wǎng)一期工程的核心板塊之一,標(biāo)志著中國算力網(wǎng)計(jì)劃的全面展開,是中國算力網(wǎng)絡(luò)建設(shè)邁出的關(guān)鍵一步。目前多地人工智能計(jì)算中心已經(jīng)上線運(yùn)營,包括深圳、武漢、成都、西安、南京、杭州等城市,均基于昇騰AI基礎(chǔ)軟硬件平臺建設(shè),讓城市AI算力成為新的公共資源,智能化變得更加普及。未來,各地人工智能計(jì)算中心將會相互聯(lián)接,形成智算網(wǎng)絡(luò),這已是大勢所趨。

04
昇騰AI軟硬件平臺
昇騰計(jì)算產(chǎn)業(yè)憑借著以昇騰AI處理器為核心,通過系列硬件和基礎(chǔ)軟件構(gòu)建全棧AI計(jì)算基礎(chǔ)設(shè)施,為各行各業(yè)賦能。其中硬件為Atlas系列硬件及伙伴硬件,包括模塊、標(biāo)卡、小站、服務(wù)器、集群等產(chǎn)品形態(tài),打造面向“云、邊、端”的全場景昇騰AI基礎(chǔ)設(shè)施解決方案;在軟件層面,包括異構(gòu)計(jì)算架構(gòu)、AI框架、應(yīng)用使能、全流程開發(fā)工具鏈等產(chǎn)品。
1、硬件是AI體系的基礎(chǔ),提供強(qiáng)大計(jì)算能力
(1)昇騰AI處理器
全球首個覆蓋全場景AI芯片,構(gòu)建昇騰全產(chǎn)業(yè)鏈底座。昇騰系列處理器是基于華為達(dá)芬奇架構(gòu)的神經(jīng)網(wǎng)絡(luò)處理器(NPU),包括昇騰310和昇騰910兩款針對不同應(yīng)用領(lǐng)域的芯片:
昇騰310處理器,本質(zhì)上是人工智能片上系統(tǒng),主要應(yīng)用于邊緣計(jì)算產(chǎn)品和移動端設(shè)備等低功耗的領(lǐng)域。該芯片采用12nm制造工藝,最大功耗僅為8W,半精度(FP16)算力可達(dá)8TFLOPS,整數(shù)精度(INT8)算力可達(dá)16TOPS,同時還集成了16通道全高清視頻解碼器。主要用于智能手機(jī)、智能附件等電子終端。
昇騰910處理器,該芯片計(jì)算密度大,領(lǐng)先全球,相比于同時代的英偉達(dá)Tesla V100 GPU還要高出一倍,其主要應(yīng)用于云端,可以為深度學(xué)習(xí)的訓(xùn)練算法提供強(qiáng)大算力。在算力方面,昇騰910表現(xiàn)非常出色,半精度(FP16)算力可達(dá)320TFLOPS,整數(shù)精度(INT8)算力可達(dá)640TOPS,功耗只有310W,同時采用了7nm先進(jìn)工藝進(jìn)程,支持128通道全高清視頻解碼。從算力上看,昇騰910和英偉達(dá)A100性能基本上相當(dāng)。主要應(yīng)用于高端服務(wù)器和云計(jì)算。

量產(chǎn)ASIC高效低成本,獨(dú)有片上系統(tǒng)結(jié)構(gòu)保障靈活性。昇騰系列NPU屬于ASIC(即專用集成電路)的一種。相較于GPU和FPGA等其他類型AI芯片,ASIC具有高度定制化特征,一次流片即定型,可編程性不足,但特定性能、規(guī)格、功耗等均顯著優(yōu)于前兩者;初期成本高、開發(fā)周期長拉高生產(chǎn)進(jìn)入門檻,但大產(chǎn)量規(guī)模可將單片成本壓到極低。昇騰系列芯片采用“量產(chǎn)一代、研發(fā)一代、規(guī)劃一代”的投產(chǎn)思路,保障每一代ASIC可用性的同時能夠通過大規(guī)模生產(chǎn)。并且,昇騰AI芯片設(shè)計(jì)為SoC(片上系統(tǒng))類型,即單個芯片上集成了包括數(shù)據(jù)存儲、計(jì)算單元等的整個系統(tǒng),功能全面且支持芯片靈活組合。

華為自研達(dá)芬奇架構(gòu)形成獨(dú)特競爭優(yōu)勢,有效提高神經(jīng)網(wǎng)絡(luò)運(yùn)算效率。達(dá)芬奇架構(gòu)是華為自研的面向AI神經(jīng)網(wǎng)絡(luò)卷積計(jì)算設(shè)計(jì)的架構(gòu),針對矩陣運(yùn)算進(jìn)行加速,算力部分由3D Cube矩陣乘法單元、Vector向量計(jì)算單元、Scalar標(biāo)量計(jì)算單元三部分提供,共同組合提供并行化多樣化算力。獨(dú)創(chuàng)16*16*16的高密度3D Cube使得單個AI Core每時鐘周期可進(jìn)行4096個16位半精度浮點(diǎn)MAC計(jì)算,而4*4*4結(jié)構(gòu)的英偉達(dá)Tensor Core單個AI核心僅支持64個。并且,基于其靈活可擴(kuò)展的特性,達(dá)芬奇架構(gòu)可以通用硬件架構(gòu)實(shí)現(xiàn)從低端到高端的全覆蓋,能夠滿足端邊云多側(cè)全場景算力要求。

(2)服務(wù)器
行業(yè)性能領(lǐng)先的服務(wù)器。昇騰AI服務(wù)器具有超強(qiáng)算力,適用于中心側(cè)AI推理以及深度學(xué)習(xí)模型開發(fā)和訓(xùn)練場景。1)Atlas 800推理服務(wù)器(型號:3000):具有高算力和高能效特點(diǎn)。最大可支持8個Atlas 300I/VPro,提供強(qiáng)大的實(shí)時推理能力,廣泛應(yīng)用于中心側(cè)AI推理場景。2)Atlas 800推理服務(wù)器(型號:3010):具有靈活配置,適配多項(xiàng)負(fù)載特點(diǎn)。最大可支持7個Atlas 300I/VPro,廣泛應(yīng)用于中心側(cè)AI推理場景。3)Atlas 800訓(xùn)練服務(wù)器(型號:9000):具有高算力密度等特點(diǎn)。擁有4顆鯤鵬920芯片,廣泛應(yīng)用于深度學(xué)習(xí)模型開發(fā)和訓(xùn)練,適用于智慧城市、智慧醫(yī)療、天文探索、石油勘探等需要大算力的行業(yè)領(lǐng)域。4)Atlas 800訓(xùn)練服務(wù)器(型號:9010):具有高算力密度等特點(diǎn)。可提供2.24PFLOPS FP16算力,廣泛應(yīng)用于深度學(xué)習(xí)模型開發(fā)和訓(xùn)練。5)Atals 800TA2訓(xùn)練服務(wù)器:具有高速帶寬等特點(diǎn)。雙向互聯(lián)帶寬達(dá)392GB/s,廣泛應(yīng)用于深度學(xué)習(xí)模型開發(fā)和訓(xùn)練。6)Atlas 500 Pro智能邊緣服務(wù)器:具有易于部署維護(hù)和支持云邊協(xié)同等特點(diǎn)。最大支持3張Atlas 300I/VPro推理卡,單卡功耗僅72W,發(fā)揮鯤鵬架構(gòu)多核、低功耗優(yōu)勢,在邊緣場景中廣泛部署。

(3)標(biāo)卡
華為昇騰超強(qiáng)算力推理+訓(xùn)練標(biāo)卡。推理卡主要用于執(zhí)行神經(jīng)網(wǎng)絡(luò)模型的推理過程,即將經(jīng)過訓(xùn)練的模型應(yīng)用于實(shí)際的數(shù)據(jù)。訓(xùn)練卡則專門用于進(jìn)行機(jī)器學(xué)習(xí)模型的訓(xùn)練過程。在機(jī)器學(xué)習(xí)中,模型需要通過大量的數(shù)據(jù)進(jìn)行訓(xùn)練,以提高其性能和準(zhǔn)確度。訓(xùn)練及推理標(biāo)卡融合“通用處理器、AICore、編解碼”于一體,需要安裝到服務(wù)器上,通過服務(wù)器提供運(yùn)算和模型,為數(shù)據(jù)中心提供強(qiáng)勁算力。1)推理卡:包括Atlas 300V視頻解析卡、Atlas 300VPro視頻解析卡、Atlas 300IPro推理卡、Atlas 300IDuo推理卡。其中,Atlas 300IDuo推理卡在配置下可以輸出整數(shù)精度(INT8)達(dá)到280TOPS,半精度(FP16)算力達(dá)到140TOPS。2)訓(xùn)練卡:主要以Atlas 300TPro訓(xùn)練卡(型號:9000)、Atlas 300T A2訓(xùn)練卡為主,可廣泛應(yīng)用于智慧城市、智慧交通、智慧園區(qū)、智慧金融等諸多AI行業(yè)場景。

(4)集群
性能領(lǐng)先的訓(xùn)練集群。華為昇騰面向人工智能計(jì)算中心等重算力場景,構(gòu)筑性能領(lǐng)先的訓(xùn)練集群,目前主要包含Atlas 900 PoD(型號:9000)、Atlas 900A2 PoD、Atlas 900AI集群三種產(chǎn)品,廣泛應(yīng)用于深度學(xué)習(xí)模型開發(fā)和訓(xùn)練。1)Atlas 900 PoD(型號:9000):可提供20.4P FLOPS FP16算力,能效比最高可達(dá)20.4PFLOOPS/46kW,搭載32顆超強(qiáng)算力的鯤鵬920處理器,全節(jié)點(diǎn)100G網(wǎng)絡(luò)互聯(lián),可實(shí)現(xiàn)高效加速應(yīng)用。2)Atlas 900 A2 PoD:提供25.6/24PFLOPS FP16算力,最大可拓展至3.2EFLOPS,全節(jié)點(diǎn)200G網(wǎng)絡(luò)互聯(lián),能效比可達(dá)25.6PFLOPS/47.5kW,具有極致算力密度、極高A級能效、極簡交付部署等特點(diǎn)。3)Atlas 900 AI:其總算力達(dá)到256P~1024P FLOPS FP16,相當(dāng)于50萬臺高性能PC的計(jì)算能力,讓人類更高效地探索宇宙奧秘、預(yù)測天氣、勘探石油,加速自動駕駛的商用進(jìn)程。
(5)其他華為昇騰超高算力集成產(chǎn)品
1)開發(fā)者套件:Atlas 200I DKA2開發(fā)者套件開發(fā)板集成了昇騰310B處理器,半精度為4TFLOPS@FP16,整數(shù)精度可達(dá)8 TOPS@INT8,功耗為24W??梢灾苯訛殚_發(fā)者提供運(yùn)算和模型等,能滿足視頻圖像分析、自然語言處理、機(jī)器人等多個領(lǐng)域的需求。2)智能小站:Atlas 500 AI邊緣推理小站算力可達(dá)10 TFLOPS@FP16或20 TOPS@INT8,在有盤配置情況下,功耗為44.5W,無盤配置時,功耗32.3W??瑟?dú)立部署,易于維護(hù)和支持云邊協(xié)同。3)模塊:Altas 200 AI加速模塊僅有半張信用卡大小,卻能提供22TOPS的INT8算力。具有在邊端側(cè)實(shí)現(xiàn)人臉識別、圖像分類等功能,因此廣泛應(yīng)用于智能攝像機(jī)、機(jī)器人、無人機(jī)等邊端側(cè)AI場景。

2、軟件釋放硬件性能,推動AI生態(tài)繁榮
華為針對AI場景,設(shè)計(jì)了異構(gòu)計(jì)算架構(gòu)CANN、AI計(jì)算框架MindSpore和第三方適配以及全流程開發(fā)工具鏈MindStudio。
(1)異構(gòu)計(jì)算架構(gòu)CANN
CANN是一種異構(gòu)計(jì)算架構(gòu),功能類似英偉達(dá)CUDA。CANN位于計(jì)算資源層和應(yīng)用層之間,是華為針對AI場景推出的異構(gòu)計(jì)算架構(gòu),對上支持多種AI框架,對下服務(wù)AI處理器與編程,發(fā)揮承上啟下的關(guān)鍵作用,是提升昇騰AI處理器計(jì)算效率的關(guān)鍵平臺。
CANN的完整軟件平臺分為四層。其中Driver層實(shí)現(xiàn)硬件和操作系統(tǒng)的適配和支持。中間一層提供基礎(chǔ)服務(wù),包括內(nèi)存管理、算力分配和資源調(diào)度,還內(nèi)置了硬件數(shù)字視覺解碼器和高性能算子庫。HCCL提供了板間和框間的通信能力,充分發(fā)揮了昇騰訓(xùn)練處理器100G的RoCE接口的寬帶連接能力。最上層是圖引擎,作為架構(gòu)的核心模塊,實(shí)現(xiàn)了大計(jì)算圖的拆分和融合,以最大化芯片算力的利用率。CANN提供兩種算子開發(fā)方式,實(shí)現(xiàn)了效率和性能的最佳平衡。相比業(yè)界主流的只有一種算子開發(fā)方式,TBE-DSL基于DSL的語法規(guī)則來定義算子,自動實(shí)現(xiàn)數(shù)據(jù)切分和調(diào)度,開發(fā)者只需關(guān)注計(jì)算表達(dá),提升了70%的開發(fā)效率。另一種算子開發(fā)方式是TBE-TIK,需要開發(fā)者具備指令級編程和調(diào)優(yōu)能力,包括數(shù)據(jù)編排和計(jì)算表達(dá),通過人工干預(yù),能更好地發(fā)揮芯片的極致性能。

CANN在各領(lǐng)域深受認(rèn)可。1)在學(xué)術(shù)領(lǐng)域方面:2022年3月,基于CANN的AI論文PLGAN強(qiáng)勢上榜2022CVPR,5月榮獲“軟件行業(yè)示范案例”,12月,在第八屆中國國際“互聯(lián)網(wǎng)+”大學(xué)生創(chuàng)新創(chuàng)業(yè)大賽中,“基于昇騰算力及CANN的創(chuàng)新應(yīng)用”突破“互聯(lián)網(wǎng)+”國賽金獎。2)在科研領(lǐng)域方面:分子動力學(xué)模擬服務(wù)在CANN的助力下成功商用,AI預(yù)測性能達(dá)到現(xiàn)有產(chǎn)品的1.5+倍,可預(yù)測規(guī)模較傳統(tǒng)方法提升10000+倍,為光伏材料、新能源電池、半導(dǎo)體材料研究帶來巨大的商業(yè)應(yīng)用價值。此外,昇騰AI平臺端到端使能蛋白質(zhì)結(jié)構(gòu)預(yù)測基于CANN進(jìn)行多維度性能優(yōu)化,使得AI預(yù)測效率較Baseline提升2+倍,同時具備長序列推理能力,2022年底已支持3800+長度的蛋白質(zhì)氨基酸序列,達(dá)到業(yè)界領(lǐng)先水平。
(2)MindSpore
MindSpore是華為推出的支持云邊端靈活部署的深度學(xué)習(xí)框架。人工智能領(lǐng)域的發(fā)展,離不開深度學(xué)習(xí)框架。從2012年以前的Torch、OpenNN等原始深度學(xué)習(xí)框架的發(fā)布,到后面形成了TensorFlow和PyTorch雙頭壟斷,再到現(xiàn)在中國國產(chǎn)框架有了一席之地,深度學(xué)習(xí)框架市場新品更新不斷。2020年,華為研制的MindSpore正式開源,和TensorFlow、PyTorch、飛槳等框架共同為人工智能領(lǐng)域發(fā)力。

MindSpore幫助開發(fā)者孵化出各種AI創(chuàng)新算法和應(yīng)用,大幅提升效率。在2018年“華為全聯(lián)接大會”上提出了人工智能面臨的十大挑戰(zhàn),其中提到長部署周期,高開發(fā)成本、高技術(shù)門檻等問題,為了應(yīng)對這些問題,昇騰MindSpore專注于實(shí)現(xiàn)開發(fā)友好、運(yùn)行高效、全場景按需協(xié)同三大目標(biāo),以有效降低開發(fā)門檻。一般而言,開發(fā)深度學(xué)習(xí)軟件框架能夠把程序員從煩瑣細(xì)致的具體編程工作中解放出來,從而將主要精力集中在人工智能算法的調(diào)優(yōu)和改進(jìn)上。昇思MindSpore作為新一代全場景AI框架,亦是如此,同時具有圖算融合、分布式并行、企業(yè)安全可信等功能,能夠?qū)崿F(xiàn)模型的訓(xùn)練-推理-全場景部署。

MindSpore易用性和性能全國領(lǐng)先,在全球AI框架使用率方面處于第一梯隊(duì)。根據(jù)Omdia的調(diào)研數(shù)據(jù),在社區(qū)活躍度方面,MindSpore以11%的占比,排名第四;在中國開發(fā)者心中,MindSpore在國產(chǎn)框架中認(rèn)知度排第一,全球框架中認(rèn)知度排第三。在人工智能框架使用率方面,TensorFlow、PyTorch、昇思MindSpore和飛槳合計(jì)占了86%的市場份額,其中,MindSpore以11%的占比在全球框架里排名第三,逆勢進(jìn)入了AI框架的第一梯隊(duì)。
MindSpore在國內(nèi)市場廣受認(rèn)可。昇思MindSpore與超過200所高校和科研機(jī)構(gòu)展開了創(chuàng)新合作,截至2022年,獲得了超過800家企業(yè)的昇思技術(shù)認(rèn)證,涵蓋了制造、金融、電信運(yùn)營商等國家重要領(lǐng)域。此外,昇思MindSpore在GiteeAI開源項(xiàng)目中綜合排名第一,軟件下載速度排名第一,已經(jīng)超過370萬次下載總量。

(3)開發(fā)工具鏈MindStudio
提供全流程開發(fā)的工具鏈MindStudio。開發(fā)者可以利用MindStudio提供的簡單易用的開發(fā)工具,高效地完成端到端開發(fā),讓開發(fā)者能夠在安裝部署、模型訓(xùn)練、模型推理、算子開發(fā)、應(yīng)用開發(fā)、調(diào)試調(diào)優(yōu)和應(yīng)用部署全流程中一站式完成,無需切換不同的工具,從而顯著降低了開發(fā)門檻。MindStudio支持訓(xùn)練、推理場景。1)訓(xùn)練場景:MindStudio(昇騰訓(xùn)練加速工具)利用獨(dú)有的算法,使訓(xùn)練速度提升25%。2)推理場景:MindStudio(昇騰模型壓縮工具)利用獨(dú)有的智能算法,加速推理進(jìn)程,可大致提速47%。

(4)應(yīng)用使能層
MindX應(yīng)用使能平臺,“2+1+X”助力AI融入千行百業(yè)。昇騰應(yīng)用使能MindX,可以支持上層的ModelArts和HiAl等應(yīng)用使能服務(wù)。MindXDL是支持Atlas訓(xùn)練卡、推理卡的深度學(xué)習(xí)組件,提供昇騰AI處理器集群調(diào)度、昇騰AI處理器性能測試、模型保護(hù)等基礎(chǔ)功能,給業(yè)界伙伴提供深度學(xué)習(xí)系統(tǒng)參考架構(gòu);MindXEdge實(shí)現(xiàn)將云端模型推送至邊緣斷部署,同時將邊緣側(cè)未識別數(shù)據(jù)上傳至云端進(jìn)行增量訓(xùn)練。ModelZoo將AI開發(fā)需要的模型提前挑優(yōu)并保障精度性能后提供給開發(fā)者。SDK作為軟件開發(fā)套件,凝聚了行業(yè)知識,結(jié)合AI最佳實(shí)踐,可以提供給開發(fā)者行業(yè)所需的算法以及各種推理驗(yàn)證工作,幫助開發(fā)者提高開發(fā)效率。

05
產(chǎn)業(yè)生態(tài)賦能千行百業(yè)
1、打造開發(fā)者生態(tài),提供一站式服務(wù)
數(shù)字時代,開發(fā)者是時代的弄潮兒。華為將構(gòu)建開發(fā)者生態(tài)視為最重要的工作之一,從五個方面圍繞開發(fā)者生態(tài)進(jìn)行展開。
1)多生態(tài)、多領(lǐng)域能力全面開放:利用華為技術(shù)底座和開放能力,華為開發(fā)者官網(wǎng)集結(jié)了各種生態(tài)和領(lǐng)域的開發(fā)平臺和工具套件,全面開放華為在人工智能、數(shù)據(jù)庫、物聯(lián)網(wǎng)、云原生、HarmonyOS、HMS、鯤鵬、昇騰等領(lǐng)域的技術(shù)能力。
2)旗艦賽事匯聚,賦能應(yīng)用創(chuàng)新:精選華為各生態(tài)領(lǐng)域的頂級賽事,向開發(fā)者全面開放華為在各產(chǎn)業(yè)領(lǐng)域取得的技術(shù)成果,鼓勵開發(fā)者探索前沿技術(shù)。
3)線上線下活動,鏈接生態(tài)商機(jī):根據(jù)企業(yè)、高校、個人等不同開發(fā)者群體的需求,華為提供豐富的線上活動、線下沙龍、技能培訓(xùn)和產(chǎn)品體驗(yàn)等活動。憑借華為專業(yè)的產(chǎn)品能力和大量的學(xué)習(xí)資源,全方位賦能開發(fā)者在云上開展實(shí)際項(xiàng)目,幫助企業(yè)開發(fā)者鏈接生態(tài)商機(jī),共同推動產(chǎn)業(yè)生態(tài)的發(fā)展。
4)豐富的項(xiàng)目促進(jìn)開發(fā)者成長:華為擁有覆蓋多個領(lǐng)域、多個生態(tài)圈的30+開發(fā)者計(jì)劃,聯(lián)結(jié)全球各地的開發(fā)者。針對企業(yè)、個人和高校,華為提供全方位的支持,包括在開發(fā)、推廣和變現(xiàn)等環(huán)節(jié)給予幫助,助力全球開發(fā)者成長,加速開發(fā)者生態(tài)的成熟發(fā)展。
5)打造一站式開發(fā)者服務(wù):圍繞開放能力、學(xué)習(xí)賦能、應(yīng)用構(gòu)建、商業(yè)變現(xiàn)、服務(wù)支持等一站式的開發(fā)者服務(wù),全新升級的開發(fā)者官網(wǎng)覆蓋了產(chǎn)品、活動、program、社區(qū)、學(xué)堂和支持菜單,便于開發(fā)者從自身興趣和目標(biāo)出發(fā),快速檢索獲取相關(guān)產(chǎn)品服務(wù)。

昇騰開發(fā)者社區(qū)是昇騰計(jì)算產(chǎn)業(yè)的門戶網(wǎng)站,承擔(dān)了資源中心,賦能中心和支持中心的角色。開發(fā)者可通過資源中心提供的資源,降低開發(fā)門檻,通過賦能中心的課程和實(shí)踐平臺快速掌握AI領(lǐng)域知識,通過支持中心,準(zhǔn)確高效得到專家的回復(fù)。華為通過分層開放能力,打造昇騰開發(fā)者社區(qū),提供最佳開發(fā)者體驗(yàn),5年內(nèi)發(fā)展超過100萬AI開發(fā)者。

華為堅(jiān)持“硬件開放、軟件開源、使能伙伴、發(fā)展人才”生態(tài)戰(zhàn)略,據(jù)華為總裁周軍介紹,昇騰AI開發(fā)者已經(jīng)超過180+萬,合作伙伴超過1200家,行業(yè)AI解決方案認(rèn)證超過2500個多。
2、昇騰五類生態(tài)伙伴,覆蓋眾多主流廠商
昇騰生態(tài)伙伴包含整機(jī)硬件伙伴、IHV硬件伙伴、應(yīng)用軟件伙伴、一體機(jī)解決方案伙伴以及生態(tài)運(yùn)營伙伴五大類。其中,整機(jī)硬件伙伴有13家、IHV硬件伙伴有6家、軟件伙伴大約1200家,以薩技術(shù)是其一體機(jī)解決方案伙伴,極視角科技以及中軟國際是其生態(tài)運(yùn)營伙伴。

1)整機(jī)硬件伙伴:在昇騰計(jì)算整機(jī)硬件的產(chǎn)品方面,華為通過包括寶德、華鯤振宇、神州數(shù)碼等眾多主流的廠商合作,內(nèi)容主要涵蓋服務(wù)器,共同打造適應(yīng)產(chǎn)業(yè)發(fā)展的產(chǎn)品。其中部分合作伙伴已經(jīng)實(shí)現(xiàn)鯤鵬系列服務(wù)器的量產(chǎn)出貨,具備長期定制化服務(wù)器的生產(chǎn)能力。

以黃河信產(chǎn)為例,黃河信產(chǎn)專注于鯤鵬系列通用計(jì)算和昇騰系列AI計(jì)算的服務(wù)器、微型計(jì)算機(jī)以及軟硬一體化解決方案,并與生態(tài)伙伴緊密合作,共同推動計(jì)算生態(tài)的創(chuàng)新。其產(chǎn)品包括Huanghe OceanAI 900H訓(xùn)練服務(wù)器、Huanghe OceanAI 800H推理服務(wù)器、Huanghe OceanAI 500Pro智能邊緣服務(wù)器等。

2)IHV硬件伙伴:根據(jù)昇騰官網(wǎng)對IHV合作伙伴的定義,即能夠基于華為昇騰部件進(jìn)行二次開發(fā),形成自有品牌硬件產(chǎn)品并進(jìn)行銷售的硬件伙伴。凌華科技、研揚(yáng)科技、研華科技、飛途、東聲智能、全愛科技6大公司成為IHV硬件伙伴。該合作伙伴基于華為昇騰部件進(jìn)行二次開發(fā),形成自有品牌硬件產(chǎn)品并進(jìn)行銷售。

3)應(yīng)用軟件伙伴:開發(fā)、銷售自有知識產(chǎn)權(quán)的應(yīng)用程序、軟件、垂直細(xì)分應(yīng)用等產(chǎn)品,能對接昇騰產(chǎn)品,有能力二次開發(fā)的軟件伙伴。目前來看,主要涵蓋智慧城市、智慧交通、電力信息化等領(lǐng)域,有助于推動關(guān)鍵領(lǐng)域的硬件國產(chǎn)化,合作伙伴包括:華雁智科、以薩、云天勵飛、格靈深瞳、云從科技、智洋創(chuàng)新等。

4)一體機(jī)解決方案伙伴:基于整機(jī)硬件伙伴提供的異騰部件或白牌機(jī)進(jìn)行二次開發(fā),以一體機(jī)解決方案形式對外銷售的合作伙伴。以薩技術(shù)成為華為昇騰唯一的一體機(jī)解決方案伙伴,基于昇騰系列的產(chǎn)品,打造了以薩智慧交通和以薩智慧交通兩大解決方案。
5)生態(tài)運(yùn)營伙伴:具備區(qū)域運(yùn)營能力,可主導(dǎo)運(yùn)營指定區(qū)域人工智能計(jì)算中心、生態(tài)創(chuàng)新中心或創(chuàng)新實(shí)驗(yàn)室等的合作伙伴。華為昇騰和極視角科技以及中軟國際達(dá)成合作。其中,極視角通過昇騰產(chǎn)品構(gòu)建了“智慧城市”解決方案,具有部署方便、一鍵式安裝、一站式管理和數(shù)據(jù)不外泄功能;而中軟國際年蟬聯(lián)中國軟件和信息服務(wù)綜合競爭力百強(qiáng)企業(yè)前15位,致力于昇騰算力企業(yè)合作、方案構(gòu)建、算力運(yùn)營等領(lǐng)域。
3、打造昇騰計(jì)算產(chǎn)業(yè),為千行百業(yè)增磚添瓦
(1)昇騰計(jì)算產(chǎn)業(yè),助力AI發(fā)展
昇騰計(jì)算產(chǎn)業(yè)合作伙伴生態(tài)體系包括圍繞著昇騰計(jì)算技術(shù)和產(chǎn)品體系所開展的學(xué)術(shù)、技術(shù)、公益及商業(yè)活動,產(chǎn)生的知識和產(chǎn)品以及各種合作伙伴,同時,還包含圍繞昇騰相關(guān)產(chǎn)品對外提供服務(wù)交付的服務(wù)類伙伴,提供培訓(xùn)服務(wù)的人才聯(lián)盟伙伴,提供投融資和運(yùn)營服務(wù)的投融資運(yùn)營伙伴等,而高校和開發(fā)者成為整個昇騰生態(tài)的重要組成部分。昇騰計(jì)算產(chǎn)業(yè)相互配合,共同促進(jìn)技術(shù)進(jìn)步和產(chǎn)品優(yōu)化,推動以AI實(shí)現(xiàn)客戶價值的理念,達(dá)到共建共贏的效果。

昇騰萬里伙伴計(jì)劃是基于昇騰AI基礎(chǔ)軟硬件平臺推出的一項(xiàng)計(jì)劃,提供培訓(xùn)、技術(shù)、營銷和市場的全面支持。從伙伴、開發(fā)者、高校、初創(chuàng)企業(yè)等方面,開展相應(yīng)計(jì)劃,進(jìn)行全面激勵。1)伙伴合作計(jì)劃:根據(jù)伙伴的技術(shù)和市場能力,以及業(yè)績貢獻(xiàn),將伙伴分為注冊級、認(rèn)證級、領(lǐng)先級、優(yōu)先級,享有不同權(quán)益。2)開發(fā)人員成長計(jì)劃:根據(jù)開發(fā)者在昇騰開發(fā)者社區(qū)的活動,給與不同積分,可獲得相應(yīng)權(quán)益。3)高校教學(xué)合作計(jì)劃:與國內(nèi)“雙一流”建設(shè)高校合作,或校內(nèi)設(shè)有AI學(xué)院或研究院、或設(shè)有獨(dú)立的AI相關(guān)學(xué)科均可以加入AI人才培養(yǎng)計(jì)劃。4)初創(chuàng)扶持計(jì)劃:分為孵化、成長和云騰三個階段,企業(yè)參加該計(jì)劃后,獲得相應(yīng)的扶持,隨著與Atlas AI計(jì)算解決方案的進(jìn)一步深入融合和裁員,進(jìn)入成長和云騰階段,獲得更高額度的扶持,并且會優(yōu)先向伙伴和客戶推薦銷售。

(2)昇騰賦能行業(yè),AI算力無處不在
華為基于硬軟件產(chǎn)品,推出眾多AI解決方案。在人工智能計(jì)算中心、能源、金融、交通、電信、智慧城市、制造和醫(yī)療等行業(yè)廣泛應(yīng)用,并且創(chuàng)造了行業(yè)高價值。
開放同飛,攜手聯(lián)合共建大模型生態(tài)。截止2023年7月,全球已發(fā)布數(shù)百個大模型,我國年內(nèi)已發(fā)布80多個大模型,基于昇騰AI澎湃算力,原生研發(fā)、適配的大模型超過30個,占據(jù)中國大模型近一半數(shù)量。華為云盤古大模型3.0作為中國首個全棧自主的AI大模型,面向整個行業(yè),包括“5+N+X”三層架構(gòu):Level0層包括自然語言、視覺、多模態(tài)、預(yù)測、科學(xué)計(jì)算五個基礎(chǔ)大模型,Level1層是N個行業(yè)大模型,Level2層則專注于具體行業(yè)應(yīng)用或特定業(yè)務(wù)場景的模型服務(wù)。

為了進(jìn)一步推動聯(lián)合創(chuàng)新,華為攜手26家AI、金融、運(yùn)營商、互聯(lián)網(wǎng)行業(yè)領(lǐng)軍企業(yè)、高校及科研院所,共同啟動昇騰AI大模型聯(lián)合創(chuàng)新,促進(jìn)產(chǎn)業(yè)數(shù)智化轉(zhuǎn)型升級。其中,武漢大學(xué)基于昇騰AI推出了大模型武漢.LuoJia;中科院自動化所發(fā)布基于昇騰AI的“紫東太初”2.0全模態(tài)大模型等。

AI計(jì)算中心賦能產(chǎn)業(yè)集群。AI計(jì)算中心提供從底層芯片算力釋放到頂層應(yīng)用使能的人工智能全棧能力,重點(diǎn)是構(gòu)建"一中心四平臺",實(shí)現(xiàn)政府、產(chǎn)業(yè)、學(xué)術(shù)研究和應(yīng)用場景的全方位連接和合作。通過這種方式,推動人工智能產(chǎn)業(yè)在區(qū)域乃至全國范圍內(nèi)的集聚和發(fā)展,促進(jìn)"政產(chǎn)學(xué)研用"五位一體的協(xié)同發(fā)展。

根據(jù)客戶需求和AI計(jì)算中心,華為提供三種不同規(guī)模的解決方案:全棧AI計(jì)算中心解決方案、云AI計(jì)算中心解決方案和輕量化AI計(jì)算中心解決方案。
1)全棧AI計(jì)算中心解決方案:提供多樣化的算力,從L0到L3全棧交付。通過應(yīng)用驅(qū)動的多樣性算力融合、超高密度硬件架構(gòu)創(chuàng)新、應(yīng)用感知的存算協(xié)同以及全棧能效管理,實(shí)現(xiàn)倍數(shù)級的全棧優(yōu)勢。適用于需要構(gòu)建全棧智能計(jì)算中心的客戶。
2)云AI計(jì)算中心解決方案:提供Atlas硬件和華為云HCSO(ModelArts)軟件,高效、可知識復(fù)用的一站式AI模型開發(fā)平臺。在數(shù)據(jù)處理階段可節(jié)省50%-80%的人力,智能標(biāo)注可提升70%的標(biāo)注效率,基于圖像分類的AI訓(xùn)練性能可達(dá)到業(yè)界的4.5倍,推理性能可達(dá)到業(yè)界的1.8倍。適用于需要構(gòu)建硬件和軟件平臺的智能計(jì)算中心的客戶。
3)輕量化AI計(jì)算中心解決方案:提供基于MindXDL的具有行業(yè)屬性的深度學(xué)習(xí)平臺,具備web頁面、一鍵安裝部署、操作簡單的特點(diǎn)。只需5~10步即可完成訓(xùn)練,非常方便快捷。適用于需要聚焦軟件平臺的行業(yè)。

各地興建人工智能計(jì)算中心,昇騰芯片成為各地政府首選。人工智能計(jì)算中心作為人工智能算力基礎(chǔ)設(shè)施,受到全球廣泛重視。我國也積極推動人工智能計(jì)算中心的建設(shè)。2019年科技部印發(fā)《國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指引》,提出推進(jìn)人工智能基礎(chǔ)設(shè)施建設(shè),加強(qiáng)計(jì)算中心等智能化基礎(chǔ)設(shè)施建設(shè),截至目前,我國已設(shè)立北京、上海、深圳等18個國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū),相關(guān)城市積極建設(shè)。昇騰芯片作為國內(nèi)頂尖的AI芯片,成為各地方興建人工智能計(jì)算中心的首選,據(jù)統(tǒng)計(jì),18個試點(diǎn)城市中已有12個城市明確披露采用昇騰AI芯片,占總數(shù)量的2/3。

攜手AI擁抱創(chuàng)新,引領(lǐng)金融智能化。在金融行業(yè),華為基于Atlas智能計(jì)算平臺,形成智慧網(wǎng)點(diǎn)、金融OCR、深度學(xué)習(xí)三大解決方案,與高重科技、合合、眼神科技、依瞳科技、第四范式等企業(yè)達(dá)成合作。有效提高金融行業(yè)工作人員的效率,為該行業(yè)提供了更好的服務(wù)。

加速醫(yī)療智能化服務(wù)。面對目前醫(yī)療資源分布不均、供需不平衡、醫(yī)療數(shù)據(jù)資源存在孤島的現(xiàn)象,華為合作伙伴基于Atlas AI計(jì)算解決方案開發(fā)部署智能輔助診斷方案,采用Atlas 800推理服務(wù)器搭建AI輔助診斷平臺,與接院方PACS對接。在新冠疫情期間,智能輔助診斷解決方案使得識別新冠肺炎的診斷時間由傳統(tǒng)方式的10-15分鐘下降至10-15秒,準(zhǔn)確率由90%上升到99%。

AI是智能制造規(guī)模發(fā)展的關(guān)鍵引擎,廣大應(yīng)用場景諸如質(zhì)量檢測、機(jī)器人視覺、人機(jī)協(xié)同、生產(chǎn)安全和廠區(qū)巡視,都有普遍應(yīng)用需求。在半導(dǎo)體制造過程中,Al的運(yùn)用實(shí)現(xiàn)了檢測精度提升。合作伙伴的半導(dǎo)體晶圓質(zhì)檢解決方案通過分析專業(yè)圖像采集設(shè)備獲取的晶圓圖片,實(shí)現(xiàn)晶圓缺陷檢測精確率超過99%。

能源方面,在電力行業(yè)AI可用于提高勘探、調(diào)度、管理、維護(hù)等流程的效率。特別是在設(shè)備狀態(tài)和周界環(huán)境的遠(yuǎn)程巡檢方面,在輸電線路、變電站和配電房多場景的遠(yuǎn)程巡視和自動分析,實(shí)現(xiàn)準(zhǔn)確度和效率的提升。石油天然氣的運(yùn)輸和使用,亦可通過AI增加運(yùn)營、維護(hù)和管理水平?;贏tlas200Al加速模塊,合作伙伴將AI算力內(nèi)置到輸電可視化裝置中,前端智能分析僅回傳告警,大幅緩解回傳通信的網(wǎng)絡(luò)壓力,降低整體設(shè)備的功耗,并將監(jiān)控周期從1次/小時縮短到1次/分鐘,縮短隱患發(fā)現(xiàn)間隔和處置周期。

06
鯤鵬與昇騰有望形成體系化協(xié)同
在算力生態(tài)建設(shè)過程中,華為體系除昇騰生態(tài)外,鯤鵬生態(tài)同樣已經(jīng)逐步成長壯大,其與昇騰有望形成體系化協(xié)同,集團(tuán)軍作戰(zhàn)綜合優(yōu)勢凸顯。
鯤鵬計(jì)算產(chǎn)業(yè)是基于鯤鵬處理器的基礎(chǔ)軟硬件設(shè)施、行業(yè)應(yīng)用及服務(wù),涵蓋從底層硬件、基礎(chǔ)軟件到上層行業(yè)應(yīng)用的全產(chǎn)業(yè)鏈條。鯤鵬計(jì)算生態(tài)強(qiáng)勢入局國產(chǎn)IT替代將對整個國產(chǎn)IT的發(fā)展產(chǎn)生深遠(yuǎn)的影響,一方面憑借鯤鵬優(yōu)異的性能以及華為強(qiáng)大的產(chǎn)業(yè)協(xié)調(diào)與生態(tài)支持能力,鯤鵬將加速整個國產(chǎn)軟件生態(tài)的替代進(jìn)程,此外更重要的是通過搭建新的計(jì)算平臺,華為或?qū)⒏淖儑a(chǎn)IT長期低附加值與高定制化的現(xiàn)狀,重塑整個國產(chǎn)IT的價值分配體系。
整個鯤鵬計(jì)算生態(tài)中華為的定位更加偏向于中國Intel,主要聚焦在芯片以及云端,持續(xù)推進(jìn)處理器研發(fā)與架構(gòu)演進(jìn),除了整機(jī)、部件、數(shù)據(jù)庫端會有少量涉及外,其它領(lǐng)域均交由合作伙伴承接:
硬件端:華為提供基于鯤鵬+昇騰的主板,SSD/網(wǎng)卡/RAID卡等部件,助力合作伙伴發(fā)展自有品牌的部件、服務(wù)器與PC。
軟件端:開源數(shù)據(jù)庫(GaussDB OLTP單機(jī)版)、開源操作系統(tǒng)(服務(wù)器操作系統(tǒng)Euler OS)、開源AI框架(MindSpore),助力合作伙伴開發(fā)自有品牌基礎(chǔ)軟件產(chǎn)品。
應(yīng)用端:免費(fèi)支持主流應(yīng)用和軟件遷移,線上社區(qū)、開發(fā)工具、編譯器等產(chǎn)品一應(yīng)俱全,推出沃土計(jì)劃5年投入15億美金支持行業(yè)發(fā)展。
一云兩翼雙引擎+開放生態(tài),華為鯤鵬計(jì)算是面向未來IT需求打造的新一代計(jì)算平臺,愿景是為世界提供最強(qiáng)算力,讓云無處不在,讓智能無所不及,為了實(shí)現(xiàn)這個目標(biāo)華為提出“一云兩翼、雙引擎”的產(chǎn)業(yè)布局,構(gòu)筑開放的產(chǎn)業(yè)生態(tài)。
一云(華為云):通過全棧創(chuàng)新,為開發(fā)者提供安全可靠的云服務(wù)以及開發(fā)體系。
兩翼(智能計(jì)算&智能數(shù)據(jù)與存儲):在智能計(jì)算領(lǐng)域,面向端、邊、云,提供“鯤鵬+昇騰+x86+GPU”的多樣性算力。在智能數(shù)據(jù)與存儲領(lǐng)域,融合了存儲、大數(shù)據(jù)、數(shù)據(jù)庫、AI,圍繞數(shù)據(jù)的全生命周期,讓數(shù)據(jù)的每比特成本最優(yōu)、讓數(shù)據(jù)的每比特價值最大。
雙引擎(鯤鵬+昇騰):圍繞鯤鵬與昇騰兩大核心基礎(chǔ)芯片加速,構(gòu)筑滿足未來算力需求的異構(gòu)計(jì)算架構(gòu)。
開發(fā)生態(tài):硬件開發(fā)、軟件開源,使能合作伙伴,共建開放的產(chǎn)業(yè)生態(tài)。

07
相關(guān)公司
1、神州數(shù)碼:華為老牌合作伙伴,AI服務(wù)器產(chǎn)品先行者
神州數(shù)碼于2020年建成首個鯤鵬超算中心(廈門),旗下鯤泰系列產(chǎn)品契合國內(nèi)企業(yè)信創(chuàng)需求,并完成了對國產(chǎn)中間件、數(shù)據(jù)庫、操作系統(tǒng)的適配,多次中標(biāo)項(xiàng)目彰顯行業(yè)競爭力。
“鯤鵬+鯤泰”布局國產(chǎn)設(shè)備賽道,核心技術(shù)解決“卡脖子”問題。2020年初,公司加入華為鯤鵬生態(tài)系,加速布局和升級自有品牌“神州鯤泰”從而打造“鯤鵬+鯤泰”系列產(chǎn)品。借力鯤鵬,公司服務(wù)器產(chǎn)品計(jì)算能力以及耗能處于國產(chǎn)化CPU標(biāo)桿水平。2022年公司發(fā)布神州鯤泰人工智能推理服務(wù)器,以“鯤鵬+昇騰”為核心,可提供128個處理核心的算力,同時最大可支持8張華為Atlas300推理卡。目前神州數(shù)碼已取得各行業(yè)數(shù)字化解決方案和人工智能數(shù)字化解決方案的實(shí)踐案例,在未來,其核心技術(shù)加速推動信創(chuàng)產(chǎn)品的發(fā)展。

信創(chuàng)產(chǎn)品持續(xù)中標(biāo),品牌影響力逐步提升。神州信創(chuàng)產(chǎn)品定位是:“華為鯤鵬CPU”為核心,以自身豐厚行業(yè)應(yīng)用案例為輔助,構(gòu)建自身信創(chuàng)產(chǎn)品生態(tài),搭建各行業(yè)應(yīng)用平臺。神州數(shù)碼連續(xù)贏得“國家稅務(wù)總局2021年稅務(wù)系統(tǒng)線上批量集中采購計(jì)算機(jī)設(shè)備補(bǔ)充入圍項(xiàng)目”、“廈門集美區(qū)鯤鵬等信創(chuàng)適配服務(wù)運(yùn)營”、“中國移動2021年至2022年人工智能通用計(jì)算設(shè)備集中采購”、“中國移動2021年至2022年P(guān)C服務(wù)器集中采購”項(xiàng)目等。
2、科大訊飛:星火一體機(jī),訊飛星火將與昇騰AI強(qiáng)強(qiáng)聯(lián)合
星火一體機(jī)可私有化部署大模型,實(shí)現(xiàn)專屬、安全、自主可控。今年7月6日,科大訊飛公布訊飛星火將與昇騰AI強(qiáng)強(qiáng)聯(lián)合,打造基于中國自主創(chuàng)新的通用智能新底座。此次發(fā)布會,科大訊飛與華為再度合作,聯(lián)合發(fā)布星火一體機(jī),讓企業(yè)可以在國產(chǎn)自主創(chuàng)新的平臺上,更方便、更自主、更安全可控地私有化部署大模型。
該設(shè)備可提供對話開發(fā)、任務(wù)編排、插件執(zhí)行、知識接入、提示工程等5種定制優(yōu)化模式,以及辦公、代碼、客服、運(yùn)維、營銷、采購等10種以上即開即用的豐富場景包,支持3種模型尺寸供用戶選擇。劉慶峰表示,有了這些能力,就可以使得每一家企業(yè)、每一個行業(yè)、每一所學(xué)校、每個醫(yī)院都有機(jī)會構(gòu)建自己的專屬大模型。目前,訊飛星火已完成的在金融、政務(wù)、汽車等領(lǐng)域的9個專屬大模型的數(shù)據(jù)顯示,在場景任務(wù)優(yōu)化和私域知識增強(qiáng)等方面平均效果能夠提升20%。

3、潤和軟件:智能物聯(lián)領(lǐng)域的昇騰AI落地
潤和軟件打造的?;反鎯κ抑悄馨踩芸亟鉀Q方案借助于昇思MindSpore AI框架快速訓(xùn)練視覺算法模型,集成華為昇騰強(qiáng)大AI算力與潤和智能視覺分析引擎,快速落地作業(yè)安全規(guī)范的智能化。對防護(hù)要求、作業(yè)流程等紙質(zhì)化規(guī)范進(jìn)行智能化改造,預(yù)防此期間可能發(fā)生的違規(guī)操作,為作業(yè)人員的安全提供堅(jiān)實(shí)保障。
潤和軟件提供的智能安全管控解決方案,在規(guī)定的監(jiān)管區(qū)域內(nèi),進(jìn)行人員檢測,并檢查作業(yè)人員裝備規(guī)范性,包括作業(yè)服、呼吸器、氧氣面罩等,同時分析穿戴序列,對作業(yè)時間進(jìn)行監(jiān)管。目前,該方案已經(jīng)實(shí)現(xiàn)規(guī)?;瘧?yīng)用,在某石化企業(yè)上線后,迅速將其月均違規(guī)作業(yè)次數(shù)降為0。

4、同方股份:自主可控守門員,昇騰產(chǎn)品覆蓋廣泛
2022年4月16日,同方計(jì)算機(jī)與華為技術(shù)有限公司在京舉行昇騰萬里伙伴授牌儀式,同方正式成為昇騰整機(jī)硬件合作伙伴,并簽署Powered by Ascend(PBA)品牌授權(quán)協(xié)議,共同推進(jìn)人工智能產(chǎn)業(yè)繁榮發(fā)展。
從產(chǎn)品分布來看,訓(xùn)練型、推理型服務(wù)器均有涉及,搭配cpu包括鯤鵬、飛騰、英特爾系列,以2U服務(wù)器為主。此外,同方也已推出了基于鯤鵬的個人計(jì)算機(jī)、儲存型服務(wù)器、通用型服務(wù)器等一系列產(chǎn)品,形成了完備的產(chǎn)品矩陣。

5、拓維信息:昇騰重要的硬件生產(chǎn)合作廠商
拓維實(shí)現(xiàn)覆蓋軟+硬的AI全面布局。拓維連續(xù)中標(biāo)了重慶、長沙人工智能計(jì)算中心項(xiàng)目以及全國一體化算力網(wǎng)絡(luò)國家(貴州)主樞紐中心;在教育、交通行業(yè)率先發(fā)布開源鴻蒙行業(yè)發(fā)行版并聯(lián)合相關(guān)部委制定行業(yè)標(biāo)準(zhǔn)等。根據(jù)拓維公開調(diào)研紀(jì)要,拓維已經(jīng)成為了A股唯一華為“鯤鵬/昇騰AI+開源鴻蒙”軟硬一體戰(zhàn)略合作伙伴。
華為昇騰重要的硬件生產(chǎn)合作廠商,積淀深厚。拓維2021年3月成為華為首批昇騰硬件生產(chǎn)合作廠商,2021年7月成為華為首批昇騰人工智能創(chuàng)新中心運(yùn)營類合作伙伴,并成為華為昇騰智行ISV、昇騰智造ISV,在交通、制造等領(lǐng)域打造了首批基于昇騰AI的行業(yè)標(biāo)桿產(chǎn)品與解決方案。面向AI領(lǐng)域,拓維基于27年行業(yè)數(shù)字化技術(shù)沉淀、大量行業(yè)自有數(shù)據(jù)以及豐富的案例應(yīng)用經(jīng)驗(yàn),未來有望構(gòu)建從自研硬件到行業(yè)大模型到AI+行業(yè)應(yīng)用的全方位AI差異化產(chǎn)品矩陣。
打造多款A(yù)I產(chǎn)品,不斷拓展自身能力。在AI產(chǎn)品方面,拓維控股子拓維湘江鯤鵬擁有華為昇騰整機(jī)伙伴授權(quán),基于鯤鵬處理器和昇騰處理器,先后發(fā)布AI推理、AI訓(xùn)練、AI小站、AI集群、智能邊緣等數(shù)十款兆瀚AI產(chǎn)品,并攜手華為參與全國各地的人工智能計(jì)算中心建設(shè)。拓維擬改的兆瀚AI推理服務(wù)器是一款基于鯤鵬平臺+昇騰310處理器的推理服務(wù)器,能為用戶提供強(qiáng)大的實(shí)時推理能力,廣泛應(yīng)用于中心側(cè)AI推理場景,幫助用戶應(yīng)對較重的計(jì)算壓力。

6、軟通動力:昇騰AI生態(tài)圈踐行者
軟通動力作為中國領(lǐng)先的軟件與信息技術(shù)服務(wù)商,長期深耕數(shù)字創(chuàng)新服務(wù)+AI賽道,擁有完整的技術(shù)創(chuàng)新體系,并成立了專注于AI領(lǐng)域的人工智能研究與創(chuàng)新中心(AIC),為客戶的AI服務(wù)體系提供支撐。同時軟通動力積極融入昇騰AI生態(tài)圈。
AI領(lǐng)域的重點(diǎn)產(chǎn)品:軟通動力打造出了具有端云協(xié)同、軟硬一體、安全可信三大優(yōu)勢的AI端云一體化產(chǎn)品(昇騰版),該產(chǎn)品已與華為Atlas300I/VPro推理卡完成兼容性測試。此外,軟通動力在多地的昇騰AI生態(tài)創(chuàng)新中心,均扮演多樣化算力能力服務(wù)商的角色,協(xié)助生態(tài)伙伴和用戶,共同完成芯片適配、系統(tǒng)遷移、應(yīng)用創(chuàng)新、人才培養(yǎng)等工作。同時,軟通動力作為首批合作企業(yè)簽約入駐北京昇騰人工智能計(jì)算中心,并將參與到“人工智能安全可信護(hù)航計(jì)劃”的理論研究、標(biāo)準(zhǔn)制定、評估評測等相關(guān)工作中,與昇騰一道共同推進(jìn)AI規(guī)模應(yīng)用與產(chǎn)品創(chuàng)新。
