ChatGPT火了,算力不夠怎么辦?

作者/ IT時(shí)報(bào)記者 范昕茹
編輯/ 潘少穎 孫妍
如果說去年的互聯(lián)網(wǎng)熱詞是元宇宙,那么今年的科技熱詞一定是GPT。
作為科技圈的新寵,ChatGPT一經(jīng)推出,兩個(gè)月內(nèi)便吸引了1億用戶注冊(cè),成為用戶增長最快的應(yīng)用。GPT-4接入Office之后的一系列演示,更是讓人見識(shí)到AI大模型的威力。ChatGPT的成功,也讓AI大模型成為新的資本追逐對(duì)象。
3月20日,百度推出基于大模型的AI聊天機(jī)器人“文心一言”,成為國內(nèi)首個(gè)沖進(jìn)GPT賽道的互聯(lián)網(wǎng)企業(yè);緊接著,創(chuàng)新工場(chǎng)董事長兼CEO李開復(fù)高調(diào)宣布創(chuàng)建AI2.0公司,華為CEO任正非也將算力建設(shè)視為未來的方向之一。
華西證券預(yù)測(cè),全球AI軟件市場(chǎng)規(guī)模將在2025年達(dá)到1260億美元,2021年到2025年復(fù)合增長率為41.02%。隨著各大公司爭(zhēng)相進(jìn)入AI大模型領(lǐng)域,一個(gè)所有企業(yè)都必將面臨的問題是:算力從何而來?
ChatGPT催化 AI算力平臺(tái)發(fā)展
眾所周知,一個(gè)大模型的建立背后需要投入大量的算力。公開數(shù)據(jù)顯示,ChatGPT的訓(xùn)練參數(shù)達(dá)到了1750億、訓(xùn)練數(shù)據(jù)45TB,每天生成45億字的內(nèi)容,支撐其算力至少需要上萬顆英偉達(dá)的GPUA100,單次模型訓(xùn)練成本超過1200萬美元。
盡管GPT-4發(fā)布后,研發(fā)團(tuán)隊(duì)并未公布GPT-4參數(shù)規(guī)模的具體數(shù)字,OpenAI CEO山姆·阿爾特曼還否認(rèn)了100萬億這一數(shù)字,但業(yè)內(nèi)人士猜測(cè),GPT-4的參數(shù)規(guī)模將達(dá)到萬億級(jí)別,這意味著其訓(xùn)練需要更高效、更強(qiáng)勁的算力來支撐。
隨著算力需求的急速增長,我國跨平臺(tái)、跨區(qū)域的算力一體化平臺(tái)也隨之出現(xiàn)。
2月24日,寧夏電信、北數(shù)所、中科曙光支撐數(shù)字寧夏公司率先推出國內(nèi)首個(gè)東數(shù)西算一體化算力服務(wù)平臺(tái)。該平臺(tái)是支持算力交易調(diào)度的應(yīng)用系統(tǒng),為智算、超算、通用算力等各類算力產(chǎn)品,提供算力發(fā)現(xiàn)、供需撮合、交易購買、調(diào)度使用等綜合服務(wù)。3月3日,北京市通信管理局、中國信息通信研究院、中國科學(xué)院計(jì)算機(jī)網(wǎng)絡(luò)信息中心與天翼云共同發(fā)布北京算力互聯(lián)互通驗(yàn)證平臺(tái)。此后,貴州、上海等地也紛紛將算力平臺(tái)的建設(shè)納入到城市數(shù)字化建設(shè)進(jìn)程之中。
在傳統(tǒng)的算力交易過程中,用戶購買算力服務(wù)時(shí),需要咨詢多個(gè)算力企業(yè),企業(yè)也是各自為戰(zhàn),缺乏統(tǒng)一的資源調(diào)配,效率無法最大化,算力資源存在一定程度的浪費(fèi)。但現(xiàn)有的算力平臺(tái)大多實(shí)現(xiàn)了多家服務(wù)商接入。例如北京算力平臺(tái)已經(jīng)接入天翼云、商湯等服務(wù)商,寧夏算力平臺(tái)也已經(jīng)和華為、阿里、亞馬遜、微軟、天翼云等算力服務(wù)商達(dá)成了戰(zhàn)略合作協(xié)議。
算力平臺(tái)更像是一個(gè)淘寶,算力服務(wù)商可以在平臺(tái)上進(jìn)行算力產(chǎn)品的展示銷售,算力需求方可以根據(jù)自己的需求購買算力產(chǎn)品。
相比于一對(duì)一的供需方式,融入了多個(gè)算力服務(wù)商,算力商品更豐富的算力平臺(tái)將為算力需求方提供更多的選擇。隨著智能算力需求的急速增長,相比于單個(gè)算力服務(wù)商,跨平臺(tái)、跨區(qū)域的算力一體化平臺(tái)將為企業(yè)提供新的選擇。
算力向西普惠算力成為可能
當(dāng)ChatGPT取代元宇宙成為未來科技發(fā)展方向時(shí),另一個(gè)不可忽略的事實(shí)是,盡管ChatGPT已經(jīng)讓行業(yè)看到了商業(yè)化的希望,但截至目前,OpenAI仍未實(shí)現(xiàn)盈利。對(duì)于一些中小企業(yè)或研究團(tuán)隊(duì)來說,算力的成本問題將進(jìn)一步凸顯。
2月20日,復(fù)旦大學(xué)自然語言處理實(shí)驗(yàn)室面向公眾推出國內(nèi)第一個(gè)對(duì)話式大型語言模型MOSS,然而當(dāng)天,MOSS便因服務(wù)器流量過載,陷入癱瘓。受限于服務(wù)器規(guī)模和資金,復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授邱錫鵬和他的MOSS團(tuán)隊(duì)最終隨機(jī)挑選了近千名報(bào)名用戶發(fā)送了內(nèi)測(cè)邀請(qǐng)碼。目前,MOSS服務(wù)器的最大容納人數(shù)在幾萬左右。

當(dāng)成本要素成為算力中的關(guān)鍵考量因素,計(jì)算需求將進(jìn)一步尋找價(jià)格洼地,這也將促使算力網(wǎng)絡(luò)進(jìn)一步向西部延伸。
2022年,我國開始實(shí)施“東數(shù)西算”戰(zhàn)略,通過構(gòu)建數(shù)據(jù)中心、云計(jì)算、大數(shù)據(jù)一體化的新型算力網(wǎng)絡(luò)體系,將東部算力需求有序引導(dǎo)到西部,優(yōu)化數(shù)據(jù)中心建設(shè)布局,促進(jìn)東西部協(xié)同聯(lián)動(dòng)。
但一直以來,“東數(shù)西算”面臨的一個(gè)問題是,“東數(shù)”并不愿意“西算”。寧夏電信副總經(jīng)理白冰告訴《IT時(shí)報(bào)》記者,過去幾年,算力企業(yè)之間的競(jìng)爭(zhēng)大多集中在通用計(jì)算領(lǐng)域。由于數(shù)據(jù)和計(jì)算需求大多集中在東部,加上西部算力基礎(chǔ)相對(duì)較弱,考慮到網(wǎng)絡(luò)時(shí)延和運(yùn)算效率的問題,盡管東部運(yùn)算成本更高,但東數(shù)東算仍有盈利空間。另一方面,隨著通用算力需求的飽和,服務(wù)商之間的競(jìng)爭(zhēng)也進(jìn)入“白熱化”,服務(wù)商紛紛打起了價(jià)格戰(zhàn),西部的價(jià)格優(yōu)勢(shì)并不明顯。
這一情況或?qū)㈦S著運(yùn)營商“網(wǎng)絡(luò)骨干直連”的建設(shè)和智算需求的增長而產(chǎn)生變化。天翼云的一份數(shù)據(jù)表明,隨著電信算力網(wǎng)絡(luò)的落地,從貴州到北京的網(wǎng)絡(luò)時(shí)延已經(jīng)可以控制在20ms之內(nèi)。國家發(fā)改委制定的《全國一體化大數(shù)據(jù)中心協(xié)同創(chuàng)新體系算力樞紐實(shí)施方案》顯示,樞紐節(jié)點(diǎn)數(shù)據(jù)中心端到端單向網(wǎng)絡(luò)時(shí)延原則上在20ms范圍內(nèi),而城區(qū)內(nèi)的數(shù)據(jù)中心作為算力“邊緣”端,數(shù)據(jù)中心端到端單向網(wǎng)絡(luò)時(shí)延原則上在10ms范圍內(nèi),低于20ms的時(shí)延已經(jīng)能夠滿足除了金融交易、車聯(lián)網(wǎng)等熱門業(yè)務(wù)之外的其他業(yè)務(wù)需求。而如今大熱的AI大模型對(duì)時(shí)延的敏感度更低,其平均網(wǎng)絡(luò)時(shí)延可以在100ms以上。
“時(shí)延將不再成為東數(shù)西算的阻礙?!痹诎妆磥?,算力平臺(tái)的出現(xiàn),能夠打破東西部算力需求不平衡的現(xiàn)狀,實(shí)現(xiàn)東西部之間的算力流動(dòng),做到真正意義上的東數(shù)西算。而另一方面,由于西部資源更為豐富,算力基礎(chǔ)建設(shè)的成本更低,算力平臺(tái)的出現(xiàn),也讓為中小企業(yè)提供更加普惠的算力成為可能。
計(jì)算平臺(tái)的下一站:生態(tài)競(jìng)爭(zhēng)
算力平臺(tái)建設(shè)的初衷,在于打通平臺(tái)、東西部的節(jié)點(diǎn),互聯(lián)互通,實(shí)現(xiàn)跨平臺(tái)、跨地域的算力交易。盡管現(xiàn)有的算力平臺(tái)將“互聯(lián)互通”作為平臺(tái)主打,但想要實(shí)現(xiàn)完全意義上的“互聯(lián)互通”仍有難度,其中一個(gè)難題便在于實(shí)現(xiàn)跨平臺(tái)的算力調(diào)度。
白冰告訴《IT時(shí)報(bào)》記者,由于行業(yè)內(nèi)對(duì)算力的計(jì)算還未有統(tǒng)一的換算標(biāo)準(zhǔn),各個(gè)服務(wù)商平臺(tái)的架構(gòu)也各不相同,這就導(dǎo)致想要跨平臺(tái)進(jìn)行算力調(diào)度十分困難。
所謂算力調(diào)度,指的是平臺(tái)在將復(fù)雜的計(jì)算任務(wù)分解后,根據(jù)平臺(tái)自身的算力分布情況,對(duì)各個(gè)節(jié)點(diǎn)的算力進(jìn)行調(diào)配,從而提供更合理的計(jì)算方式,達(dá)到提升計(jì)算效率、降低計(jì)算成本的效果?,F(xiàn)階段,幾乎所有的算力服務(wù)商都擁有自己的算力調(diào)度平臺(tái)。華為相關(guān)數(shù)據(jù)顯示,通過平臺(tái)的算力調(diào)度系統(tǒng),能夠使算力效率提升30%。
目前,寧夏算力平臺(tái)已經(jīng)實(shí)現(xiàn)了與不同算力服務(wù)商調(diào)度系統(tǒng)的互通,平臺(tái)內(nèi)部的多云管理系統(tǒng)也能對(duì)多個(gè)算力調(diào)度系統(tǒng)進(jìn)行管理,但跨服務(wù)商的算力調(diào)度仍需要時(shí)間。

不過,隨著區(qū)塊鏈在算力平臺(tái)上的應(yīng)用,跨服務(wù)商的算力調(diào)度將成為可能。白冰告訴《IT時(shí)報(bào)》記者,新技術(shù)可以繞開服務(wù)商的底層架構(gòu),將各個(gè)服務(wù)商平臺(tái)的算力原子化,從而實(shí)現(xiàn)統(tǒng)一定價(jià),統(tǒng)一調(diào)度。他透露,這一功能將于2023年底前實(shí)現(xiàn)。
“當(dāng)算力具有了金融屬性,才真正能夠像水電一樣可交易、可流轉(zhuǎn)?!卑妆f,“屆時(shí),算力互聯(lián)平臺(tái)拼的將不僅僅是成本,還有算力的質(zhì)量和服務(wù)能力?!币簿褪钦f,當(dāng)跨平臺(tái)的算力調(diào)度和交易成為可能,算力互聯(lián)互通平臺(tái)的競(jìng)爭(zhēng)也將進(jìn)入下一站:生態(tài)競(jìng)爭(zhēng)。
如今,依托國家“東數(shù)西算”戰(zhàn)略,處于西部計(jì)算節(jié)點(diǎn)上的城市正依托自身優(yōu)勢(shì),積極建立打造新的智算生態(tài)鏈。寧夏正積極發(fā)揮產(chǎn)業(yè)鏈核心企業(yè)科技引領(lǐng)和帶動(dòng)作用,打造產(chǎn)業(yè)鏈互利共贏的生態(tài)圈,促進(jìn)大中小企業(yè)創(chuàng)新鏈、產(chǎn)業(yè)鏈、供應(yīng)鏈、資金鏈、服務(wù)鏈、人才鏈的全面融通。
排版/ 季嘉穎
圖片/ MOSS 東方IC
來源/《IT時(shí)報(bào)》公眾號(hào)vittimes