ChatGPT席卷而來，

GPU需求過猛引發(fā)缺貨漲價潮

【全球云觀察 ｜ 熱點關(guān)注】百度已不是中國第一大桌面搜索引擎，這個消息來自美國數(shù)據(jù)研究機構(gòu)Statcounter公布的最新統(tǒng)計數(shù)據(jù)分析結(jié)果。

2023年4月，微軟旗下搜索引擎必應(yīng)（Bing）在中國區(qū)桌面端市場份額占比超越百度。這再次將加持了ChatGPT的必應(yīng)（Bing）推向行業(yè)的聚焦點，必應(yīng)（Bing）在搜索引擎領(lǐng)域加速發(fā)展的背后，自然離不開強大AI算力的支撐。

在微軟嘗到大模型帶來的甜頭時，針對熱火朝天的ChatGPT迭代，各大科技公司也相繼在GPT領(lǐng)域加大投入。全球云觀察分析指出，AI大模型全球發(fā)展雖然很快，但在大模型之爭的背后，卻隱藏著一場算力的大較量。作為AI算力的頂梁柱，GPU順理成章成為了暢銷貨。

當前，高性能GPU供不應(yīng)求，據(jù)證券時報前段時間的消息透露，GPU價格也不斷上漲，例如A100 GPU市場單價已達15萬元，而在兩個月前的價格為10萬元，漲幅達到50%。并且A800價格也有明顯漲幅，目前價格在9.5萬元左右，上月價格為8.9萬元左右。

可以斷言，GPT席卷而來，對于致力于AI算力云的創(chuàng)新云廠商，也帶來了千載難逢的發(fā)展機會。在應(yīng)對AI算力瓶頸的挑戰(zhàn)上，需要實現(xiàn)更大的AI算力突破與創(chuàng)新，其核心在于如何賦能模型訓(xùn)練。

對于像微軟、谷歌等科技巨頭而言，有著雄厚的資本來押注并發(fā)展GPT，但是對于廣大的企業(yè)用戶而言，為支持大模型訓(xùn)練，不可能投入數(shù)10億美元來構(gòu)建AI算力基礎(chǔ)設(shè)施。在此之前，趨動科技（VirtAI Tech）CEO王鯤分析指出，ChatGPT面向行業(yè)化拓展正在呈現(xiàn)出模型變小的趨勢。當前ChatGPT正處于“make it perform”的可用階段，后續(xù)必然會走向好用、用得起的階段，ChatGPT走入“尋常百姓家”也是指日可待。

這一切足以說明了，用戶需要更靈活、更彈性、更經(jīng)濟、更便捷的AI算力云來支撐多樣化的模型訓(xùn)練。如果可以像使用公有云一樣在AI算力云上按需選擇，賦能行業(yè)的模型訓(xùn)練才會加速普及進度。

要做AI算力界的“頂流者”

憑什么趨動云如此有底氣？

在AI算力界，雖然不止趨動云一家在專注，但是要做AI算力界的“頂流者”，趨動云卻十分有底氣。為什么？

一方面，趨動云背靠趨動科技（VirtAI Tech），也是趨動科技利用其在算力資源池和開發(fā)訓(xùn)練平臺領(lǐng)域的深厚積累，面向企業(yè)、科研和個人AI開發(fā)者構(gòu)建的開發(fā)和推理訓(xùn)練服務(wù)。成立于2019年的趨動科技，有著其重要的歷史使命，通過技術(shù)創(chuàng)新與行業(yè)積累，實現(xiàn)AI算力普惠，助力人工智能賦能千行百業(yè)。

具體而言，趨動云到底是什么？趨動云首席架構(gòu)師對趨動云做了一個明確的定義，趨動云就是一個“一站式開發(fā)訓(xùn)練平臺”，用戶在這里只需要關(guān)注AI開發(fā)訓(xùn)練業(yè)務(wù)本身，而不用關(guān)心任何基礎(chǔ)設(shè)施細節(jié)。事實上，用戶也無法感知到這些細節(jié)，在平臺上可以看到的虛擬GPU卡型號也是高度抽象的。其背后的AI硬件的差異和使用復(fù)雜性，已完全被趨動云屏蔽。

這樣一來，“一站式”的定位，意味著通過為AI算法開發(fā)全流程提供優(yōu)化服務(wù)，并構(gòu)建全球開發(fā)者和項目資源分享社區(qū)。目前在開發(fā)訓(xùn)練場景方面，趨動云可以幫助AI開發(fā)者快速而靈活地實現(xiàn)最佳實踐。

由此而言，有積累，有用戶，趨動云的底氣來得順其自然。不過，同樣是做AI算力云的，為啥趨動云就是不一樣呢？從趨動云的行業(yè)能力與行業(yè)價值來看，有著更深入、更專業(yè)、更全面、更得道、更實用、更普惠的六大優(yōu)勢，值得一看。

一，不深入，不頂流。

在于趨動云對于GPU資源利用技術(shù)方面，不僅實現(xiàn)了多數(shù)廠商可以實現(xiàn)的GPU簡單虛擬化和任意虛擬化，而且還實現(xiàn)了遠程調(diào)用等GPU池化技術(shù)，進一步實現(xiàn)了更深入的行業(yè)落地。

二，不專業(yè)，不頂流。

趨動云專注GPU池化云的應(yīng)用與落地，在行業(yè)布局上更注重對AI算力云的用戶需求。通過池化算力，提供海量針對不同場景的實例規(guī)格，趨動云可以為用戶提供高按需的有力保障。

三，不全面，不頂流。

要成為一個變革者，必然就需要和別人不一樣。眾多GPU算力提供商提供的好比毛坯房，趨動云提供的好比精裝房，毛坯房與精裝房最核心的區(qū)別在于能否“拎包入住”。

“毛坯房”提供者，將用戶直接暴露在硬件管理之下，從而帶來一系列需要用戶關(guān)心和解決的事情。比如要申請指定的機器必須懂得硬件調(diào)度，要申請指定的GPU卡必須關(guān)心算力，要獲得相應(yīng)的管理能力和離線訓(xùn)練能力必須懂得管理環(huán)境、數(shù)據(jù)和代碼。這一切迫使用戶的數(shù)據(jù)與應(yīng)用節(jié)點綁定，無法實現(xiàn)管理的靈活性。

“精裝房”提供者，趨動云面向AI開發(fā)者實行“拎包入住”方式，并且開放大量數(shù)據(jù)集與源代碼集，也已經(jīng)上線眾多模型，做了大量適合AI開發(fā)者的“剛需配套”，并且數(shù)據(jù)集在未來將進一步得到擴展。

四，不得道，不頂流。

這個道就是滿足不同類型用戶在使用AI算力云方面所需要的靈活性、高效性、與高性價比。趨動云的基因純正，擁有強大專業(yè)的技術(shù)團隊，得道多助，并已經(jīng)初步構(gòu)建起來了趨動云的生態(tài)體系。目前前期主要構(gòu)建AI開發(fā)者生態(tài)，已經(jīng)連續(xù)多屆支持中國大學(xué)生計算機設(shè)計大賽人工智能應(yīng)用邊緣智能應(yīng)用挑戰(zhàn)賽，積極培養(yǎng)GPU池化模式的未來用戶基礎(chǔ)。

五，不實用，不頂流。

目前為止，趨動云已經(jīng)有包括高教、科研、互聯(lián)網(wǎng)、傳媒、醫(yī)療在內(nèi)的諸多企業(yè)用戶眾多個人開發(fā)者用戶。在發(fā)展初期，就能夠受到用戶的熱捧，可見，趨動云采取類似Flink基于公有云的服務(wù)方式，有著很強的實用性。

六，不普惠，不頂流。

趨動云從一開始就十分強調(diào)高性價比，從GPU池化技術(shù)層面實現(xiàn)用戶GPU算力資源的高利用率，從而降低應(yīng)用成本，實現(xiàn)AI應(yīng)用的普惠。相關(guān)測試表明，采用同樣模型訓(xùn)練，達到相同精度，目前采用算力池化的趨動云，比公有云成本低60%。

很顯然，要做AI算力界的頂流者，普惠AI算力云落在實處，這不僅是趨動云重要的發(fā)展底氣，而且也是趨動科技肩負的重要歷史使命。在AI時代，對任何用戶而言，發(fā)展的每一步，都來之不易，AI算力的成本優(yōu)化與效率優(yōu)化十分重要，也迫切需要。在此，全球云觀察分析認為，行業(yè)用戶的需求驅(qū)動，也將進一步加速趨動云的發(fā)展與普及。

釋放GPU池化技術(shù)紅利

讓AI不只是有錢人玩的游戲

然而，趨動云不僅要做AI算力界的頂流者，更要做AI算力界的創(chuàng)新變革者。

趨動云之所以能為用戶提供低成本、高按需保障、無廠商鎖定的AI算力，這與其采用了獨特的GPU池化技術(shù)分不開的。

或許你知道GPU虛擬化技術(shù)，或者叫GPU切片技術(shù)，但值得注意的是，傳統(tǒng)的GPU虛擬化技術(shù)基于硬件思維，只能對本地物理機上的GPU進行虛擬切割。而資源池化技術(shù)基于整個數(shù)據(jù)中心范圍，不僅可以支持本地資源虛擬化，而且打破單機資源調(diào)度的物理邊界，讓用戶透明使用任意物理機上、任意數(shù)量、任意品牌廠商的算力資源。

算力池化技術(shù)，可以看成是智算領(lǐng)域變革的關(guān)鍵技術(shù)，有著從計算時代邁向智算時代的劃時代的意義，其帶來重要的變革在于兩大“解耦”。一是實現(xiàn)用戶與硬件進行全面解耦。不僅避免了GPU綁定在某節(jié)點服務(wù)器帶來硬件資源遭遇故障的麻煩與危險。而且用戶不需要再關(guān)心AI硬件的細節(jié)，可以自定義AI算力來匹配業(yè)務(wù)應(yīng)用需求，提高整體資源利用率，帶來更好的應(yīng)用成果，加速行業(yè)發(fā)展。

二是實現(xiàn)CPU與GPU解耦。雖然這對網(wǎng)絡(luò)要求很高，但AIGC的發(fā)展，使得ChatGPT火爆后建立起來的新機房往往會搭建200G甚至更高性能的網(wǎng)絡(luò)環(huán)境。在網(wǎng)絡(luò)性能足夠強的情況下，CPU與GPU解耦合帶來的遠程性能損耗非常低，用戶幾乎感受不到。

進一步分析來看，要實現(xiàn)CPU與GPU解耦合，需要理解用戶代碼怎么使用GPU，在便利性與性能上有所選擇，為此可以做API聚合優(yōu)化，改變用戶代碼行為，從而讓用戶體驗到實現(xiàn)代碼調(diào)用性能更高。

據(jù)趨動云首席架構(gòu)師介紹，當前用戶采購的是固定支配的GPU服務(wù)器，而每個應(yīng)用需要的GPU卡數(shù)不相同，以及需要的CPU和GPU配比也不相同。為此CPU與GPU解耦合之后，GPU池化技術(shù)可以充分利用碎片GPU資源，實現(xiàn)不同服務(wù)器節(jié)點上CPU和GPU資源的整合利用。

趨動云帶給用戶兩大最直接的可見價值，就是便宜和好用。便宜在于趨動云通過GPU池化技術(shù)實現(xiàn)了用戶AI算力資源靈活取用，打造GPU池化云不僅節(jié)約成本，也為用戶提高了資源利用率，實現(xiàn)降本增效的目的。相對于公有云GPU資源的包月制，趨動云的按量付費來得更實惠。

好用在于通過云化服務(wù)模式，避免了用戶對AI算力的運維麻煩。與此同時，趨動云提供結(jié)構(gòu)化管理與多元能力，提升了用戶模型訓(xùn)練的便利性。加上趨動云打造越來越豐富的社區(qū)資源，帶給用戶在大模型時代下更開放、更多元的應(yīng)用價值。無需繁瑣的手工配置，可快速基于JupyterLab進行可視化編程，一鍵式提交離線任務(wù)，趨動云的低上手門檻讓眾多企業(yè)玩轉(zhuǎn)AI不再為難。

“讓AI不只是有錢人玩的游戲”，通過不斷釋放GPU池化技術(shù)紅利，一步一個腳印推動AI算力云走向各個領(lǐng)域，走向行業(yè)普及，去滿足不同行業(yè)不同用戶的需要。事實上，趨動云在眾多行業(yè)領(lǐng)域已經(jīng)獲得了成功落地，比如基于趨動云成功落地的復(fù)旦大學(xué)MOSS大模型等。

有差異化，才有生存發(fā)展空間。在AI算力云的實際需求上，趨動云給予復(fù)旦大學(xué)等各個行業(yè)的用戶以“精準扶持”。通常AI訓(xùn)練對只讀性能要求高，偶爾也會修改數(shù)據(jù)集，但公有云很難提供專業(yè)化的框架版本能力。因此，AI復(fù)現(xiàn)不僅需要算力支持，框架版本、環(huán)境配置、預(yù)訓(xùn)練模型等方面更需要細致的支持，AI對存儲的訴求也非常大，這源于通用存儲方案很難滿足AI訓(xùn)練的過程，計算高性能帶來存儲IO瓶頸。在存儲上做優(yōu)化，也可以提升用戶AI算力上的應(yīng)用體驗。為此，基于趨動云的存儲的能力，趨動云不斷開拓生態(tài)合作，為用戶提供精準的支持。

從用戶角度出發(fā)，不僅對用戶屏蔽硬件細節(jié)，讓用戶只關(guān)注業(yè)務(wù)與自身應(yīng)用，而且讓用戶快速實現(xiàn)AI算力配置，可見，趨動云就是一個敏捷個性化的AI算力池化云。

全球云觀察分析認為，一個有競爭力的AI算力與一站式開發(fā)訓(xùn)練平臺服務(wù)，價格更美，用起來更美，其核心關(guān)鍵離不開高效價值的運營體系。隨著趨動云在科教行業(yè)廣泛落地，通過大規(guī)模的應(yīng)用實踐，對趨動云邁向to B企業(yè)級行業(yè)領(lǐng)域帶來更多的實戰(zhàn)經(jīng)驗，同時也進一步打磨趨動云的整體運營體系，敏捷滿足用戶需求。

針對當前科技巨頭發(fā)起的ChatGPT大戰(zhàn)，AI行業(yè)“卷”得越來越厲害，繼而誘發(fā)智算領(lǐng)域驚現(xiàn)AI大變局，也在催生行業(yè)大洗牌。臨近一年一度的“618”了，AI算力云價格要不要也“卷”起來呢？為此，全球云觀察從趨動云運營總監(jiān)文禹翔處了解到，在618期間，趨動云也將推出算力金贈送、充值特惠等活動。在2023年6月1日-2023年6月21日的活動時間內(nèi)參與充值活動，都可獲得贈送。充值越多優(yōu)惠越多，對此有興趣的小伙伴可以積極參與一把。

連接算力連接人，模型訓(xùn)練就上趨動云。趨動云可以幫助企業(yè)開發(fā)者、個人開發(fā)者和高?？茖W(xué)研究者們提升科研效率，同時有助于AI算法愛好者們降低學(xué)習門檻，讓愛好者們能更好地接觸到最新的前沿深度學(xué)習內(nèi)容，輕松訓(xùn)練自己的第一個模型。

命運對勇士低語：“你無法抵御風暴”。勇士低語回應(yīng)：“我，就是風暴”。

隨著智算領(lǐng)域變革潮來襲，AI算力云有望成為下一個行業(yè)風暴，更有魅力的“AI算力池化云”勢必會成為這場風暴的風眼。

- END-

你

怎

么

看

？

歡迎文末評論補充！

【全球云觀察 ｜ 全球存儲觀察 ｜阿明觀察 ｜科技明說】專注科技公司分析，用數(shù)據(jù)說話，帶你看懂科技。本文和作者回復(fù)僅代表個人觀點，不構(gòu)成任何投資建議。