網(wǎng)心科技CEO李浩:構(gòu)建新摩爾定律下的算力分發(fā)網(wǎng)絡(luò)

3月31日,LiveVideoStackCon 2022音視頻技術(shù)大會(huì)·北京站拉開帷幕。網(wǎng)心科技CEO李浩受邀出席,并發(fā)表了題為《構(gòu)建新摩爾定律下的算力分發(fā)網(wǎng)絡(luò)》的主題演講。他認(rèn)為,當(dāng)前全球新一輪AI技術(shù)風(fēng)暴漸起,生成式AI將推動(dòng)邊緣云的新一輪爆發(fā)增長(zhǎng),邊緣AI將沿著邊緣推理、邊緣訓(xùn)練到自主學(xué)習(xí)的軌跡發(fā)展。

AGI時(shí)代開啟,算力奇點(diǎn)將至
作為新一輪顛覆性科技革命,以ChatGPT為代表的AIGC技術(shù),依靠強(qiáng)大的AI模型和海量數(shù)據(jù),可以廣泛應(yīng)用于文本、音頻、視頻、游戲等領(lǐng)域,顯著降低內(nèi)容生產(chǎn)門檻的同時(shí),也將大幅提升內(nèi)容生產(chǎn)的效率。伴隨著人工智能應(yīng)用向縱深發(fā)展,無論是大模型訓(xùn)練需求攀升,還是AI應(yīng)用的爭(zhēng)相落地,都將進(jìn)一步驅(qū)動(dòng)算力需求的高增長(zhǎng),這將會(huì)對(duì)網(wǎng)絡(luò)與算力帶來持續(xù)強(qiáng)勁的拉動(dòng)。
伴隨著ChatGPT、GPT-4的迅速“出圈”,讓 OpenAI 一戰(zhàn)成名,外界對(duì)這家公司的關(guān)注度達(dá)到了前所未有的高度。OpenAI創(chuàng)始人Sam Altman此前在社交平臺(tái)提出了“新摩爾定律”——宇宙中的智能總量每18個(gè)月翻一倍。盡管Sam Altman沒有做出詳細(xì)的解釋,但可以預(yù)見的是AI飛速發(fā)展的背后,算力是一個(gè)明確可衡量的指標(biāo),也是必不可少的條件。李浩以GPT-4為例做出趣味化類比,目前GPT-4大模型由100萬(wàn)億連接數(shù)構(gòu)成,相當(dāng)于一個(gè)松鼠的神經(jīng)連接數(shù),而人的神經(jīng)連接數(shù)是170萬(wàn)億,按照新摩爾定律,GPT-4僅需十幾年的時(shí)間就能達(dá)到人類的水平。

類似的觀點(diǎn)還有,庫(kù)茲韋爾此前提出用錢來考慮計(jì)算機(jī)的發(fā)展?fàn)顩r:用1000美元能買多少計(jì)算能力。目前1000美元買到的電腦可以打敗老鼠的大腦,水平大約是人類的千分之一。按照這個(gè)速度,2025年之前我們就能買得起一臺(tái)與人類大腦相媲美的電腦。
在新摩爾定律中,算法、數(shù)據(jù)和算力三要素耦合共振。其中,數(shù)據(jù)是新型生產(chǎn)資料,算力是新型生產(chǎn)力,算法是新型生產(chǎn)關(guān)系,它們共同構(gòu)成了人工智能時(shí)代的生產(chǎn)力三要素,而當(dāng)前技術(shù)創(chuàng)新更多體現(xiàn)在模型算法。在對(duì)數(shù)線性曲線中,當(dāng)模型大小呈指數(shù)增長(zhǎng)時(shí),相應(yīng)的模型性能呈線性增長(zhǎng)。在相變曲線中,當(dāng)模型尺寸達(dá)到一定規(guī)模時(shí),會(huì)出現(xiàn)突現(xiàn)能力,讓性能急劇增加??梢钥闯觯楷F(xiàn)能力推翻比例定律。當(dāng)模型尺寸達(dá)到一定規(guī)模時(shí),會(huì)出現(xiàn)涌現(xiàn)能力,讓性能急劇增加。

相比傳統(tǒng)的低代碼、零代碼平臺(tái)主要依靠可視化和模塊化等實(shí)現(xiàn),生成式AI使非程序員的創(chuàng)造者能夠使用自然語(yǔ)言指令進(jìn)行調(diào)用算力手段。隨著AIGC的進(jìn)一步平民化,必將改變?nèi)藗兊膬?nèi)容創(chuàng)作方式,讓更多人借助AI來拓展智慧、知識(shí)和想象力的邊界。
在音視頻領(lǐng)域,從智能配音到生成AI宣講視頻,再到文本生成視頻模型,新一輪AI驅(qū)動(dòng)的內(nèi)容生產(chǎn)力革命正拉開大幕。根據(jù)此前國(guó)際數(shù)據(jù)公司IDC調(diào)研數(shù)據(jù),到2025年,44%的數(shù)據(jù)將在核心和邊緣創(chuàng)建,同時(shí)全球?qū)⒔?0%的數(shù)據(jù)將存儲(chǔ)于核心和邊緣。而在隱私保護(hù)方面,未來每個(gè)用戶都有自己的數(shù)據(jù)節(jié)點(diǎn),邊緣側(cè)是AI數(shù)據(jù)保護(hù)的重要選項(xiàng)之一,毫無疑問,在AIGC發(fā)展路徑下,AI和邊緣側(cè)有著關(guān)鍵性的重疊。
邊緣云新定位:成為新的內(nèi)容生產(chǎn)中心
在ChatGPT引發(fā)的新一輪AI浪潮下,邊緣云儼然已成為AI應(yīng)用的主戰(zhàn)場(chǎng),由于大量?jī)?nèi)容在邊側(cè)生產(chǎn),并伴隨著在邊緣云處完成內(nèi)容的處理、分發(fā)。對(duì)此,李浩提出“云(訓(xùn)練)-邊(推理)-端(請(qǐng)求)”全場(chǎng)景AI訓(xùn)練推理協(xié)同框架,將訓(xùn)練過程部署在云端,而將訓(xùn)練好的模型部署在邊緣設(shè)備,邊緣側(cè)網(wǎng)絡(luò)使用判定器判斷特征信息是否足以進(jìn)行準(zhǔn)確的推理,當(dāng)判定為錯(cuò)誤推理時(shí),邊緣側(cè)拋出數(shù)據(jù)至云側(cè),由云側(cè)更復(fù)雜的網(wǎng)絡(luò)進(jìn)行推理,得到更準(zhǔn)確的推理結(jié)果,通過云邊端協(xié)同的方式,可以帶來高質(zhì)量的AI技術(shù)方案解決實(shí)際使用場(chǎng)景里的更多痛點(diǎn)。

圍繞生成式AI+邊緣云的暢想,李浩認(rèn)為邊緣云未來有三大關(guān)鍵趨勢(shì):
第一、智能場(chǎng)景多。一方面,AI交互多種形態(tài),底層出現(xiàn)大量異構(gòu)算力,對(duì)應(yīng)不同模型大小和成本;另一方面,算力分層進(jìn)行全網(wǎng)算力資源的智能編排、彈性調(diào)度。
第二、實(shí)時(shí)交互多。從邊緣側(cè)分發(fā)到超低延遲RTC,沉浸式需求和“臨場(chǎng)感”驅(qū)動(dòng)下一代互聯(lián)網(wǎng)演進(jìn)。
第三、業(yè)務(wù)邏輯多。數(shù)據(jù)源頭的變革,大量業(yè)務(wù)邏輯要在邊緣網(wǎng)絡(luò)基于Serverless重塑。
從單純分發(fā)到算網(wǎng)融合,邊緣云也將面臨全新挑戰(zhàn)。算力網(wǎng)絡(luò)是數(shù)字化時(shí)代的資源網(wǎng),是以計(jì)算為核心,通過網(wǎng)絡(luò)實(shí)現(xiàn)連接,通過感知實(shí)現(xiàn)匹配與調(diào)度的服務(wù)。算力網(wǎng)絡(luò)有三大組成要素:首先是計(jì)算,算力網(wǎng)絡(luò)的核心資源;其次是感知,對(duì)具體場(chǎng)景算力需求的感知及算力資源的感知;第三是連接:將分散、異構(gòu)、多層級(jí)、閑置的算力集合起來。以上三大要素賦予算力網(wǎng)絡(luò)功能屬性和服務(wù)屬性,讓其能高效盤活全社會(huì)算力資源,并賦能產(chǎn)業(yè)應(yīng)用。

從算力網(wǎng)絡(luò)的技術(shù)架構(gòu)上看,從下到上可分為基礎(chǔ)資源層、算網(wǎng)調(diào)度層和算網(wǎng)運(yùn)營(yíng)層,同時(shí)算網(wǎng)運(yùn)維和算網(wǎng)安全貫穿全程,形成“三橫兩縱”的支撐形態(tài)。最終,算力網(wǎng)絡(luò)會(huì)以產(chǎn)品或能力的形式,賦能產(chǎn)業(yè)應(yīng)用。
從傳輸?shù)剿懔?,網(wǎng)心科技持續(xù)探索AI場(chǎng)景落地實(shí)踐
作為全球邊緣計(jì)算創(chuàng)領(lǐng)者,網(wǎng)心科技通過共享和自建,匯聚海量邊緣計(jì)算資源,構(gòu)建了全球首個(gè)百萬(wàn)量級(jí)節(jié)點(diǎn)邊緣計(jì)算平臺(tái)——星域云。上層通過對(duì)接中心云,其余層次用各層級(jí)邊緣節(jié)點(diǎn)去覆蓋。在此基礎(chǔ)上,基于網(wǎng)心科技的智能調(diào)度、資源封裝、虛擬化平臺(tái),把比較復(fù)雜的資源封裝成標(biāo)準(zhǔn)化的產(chǎn)品給到客戶使用。

目前,網(wǎng)心科技在邊緣云計(jì)算領(lǐng)域已建立領(lǐng)先的行業(yè)地位。在市場(chǎng)地位方面,網(wǎng)心科技擁有邊緣計(jì)算全品類產(chǎn)品,目前客戶接入SDK數(shù)量已達(dá)6億;IDC報(bào)告顯示,2022上半年網(wǎng)心科技位列中國(guó)邊緣公有云服務(wù)市場(chǎng)第三。在技術(shù)實(shí)力方面,網(wǎng)心科技擁有全棧式邊緣計(jì)算解決方案、行業(yè)最優(yōu)的技術(shù)指標(biāo)、卓越創(chuàng)新的邊緣計(jì)算產(chǎn)品。在資源優(yōu)勢(shì)方面,網(wǎng)心科技擁有全球最大、最下沉的邊緣計(jì)算網(wǎng)絡(luò),超過500萬(wàn)節(jié)點(diǎn)數(shù)量和70Tbps帶寬儲(chǔ)備,同時(shí)擁有自研的邊緣智能硬件設(shè)備,適配各類邊緣場(chǎng)景。在團(tuán)隊(duì)創(chuàng)新方面,網(wǎng)心科技是國(guó)內(nèi)最早涉足邊緣CDN的廠商之一。公司研發(fā)人員占比70%,并且組建了國(guó)內(nèi)規(guī)模最大的邊緣計(jì)算團(tuán)隊(duì)。
據(jù)李浩介紹,目前網(wǎng)心科技邊緣云計(jì)算解決方案已在云游戲、AIGC等多個(gè)AI場(chǎng)景落地實(shí)踐。在云游戲領(lǐng)域,網(wǎng)心云游戲布局了覆蓋全網(wǎng)的算力節(jié)點(diǎn),結(jié)合自身智能調(diào)度系統(tǒng)與基于QUIC構(gòu)建的超低延時(shí)RTC,為云游戲玩家提供大帶寬、低時(shí)延的穩(wěn)定傳輸。
首先,在智能調(diào)度方面,傳輸雙端智能、精準(zhǔn)的定位功能,確保IP庫(kù)、位置信息的高精度;基于網(wǎng)絡(luò)測(cè)量的策略優(yōu)化,依靠海量邊緣節(jié)點(diǎn)以及終端的網(wǎng)絡(luò)測(cè)量數(shù)據(jù)更新最優(yōu)網(wǎng)絡(luò)拓?fù)?;海量?jié)點(diǎn)的實(shí)時(shí)調(diào)度能力,以全內(nèi)存管理實(shí)現(xiàn)高效的節(jié)點(diǎn)調(diào)度能力。其次,在端到端的超低延遲RTC性能優(yōu)化方面,網(wǎng)心自研RTC,基于QUIC傳輸協(xié)議構(gòu)建,擁有更快的連接建立、減少線路阻塞、更好的擁塞控制、改進(jìn)隱私保護(hù)及流完整性;高效利用GPU特點(diǎn)實(shí)現(xiàn)零拷貝的采集編碼,大幅降低CPU占用率的同時(shí),有效提升視頻的編解碼效率。
從實(shí)際觀測(cè)結(jié)果來看,當(dāng)網(wǎng)絡(luò)突發(fā)大面積丟包后可快速恢復(fù)到預(yù)期帶寬。此外,弱網(wǎng)表現(xiàn)的結(jié)果也在延時(shí)、吞吐,帶寬間實(shí)現(xiàn)了很好的tradeoff,以此保障游戲過程中的優(yōu)質(zhì)體驗(yàn)。
在AIGC領(lǐng)域,與傳統(tǒng)基于中心云的AIGC應(yīng)用方案架構(gòu)不同,網(wǎng)心云IAAS架構(gòu)依托自身邊緣節(jié)點(diǎn)管理能力構(gòu)建了超大規(guī)模的算力節(jié)點(diǎn)池,這使得數(shù)據(jù)不需要回傳到中心云,而是在離用戶更近的邊緣側(cè)就能解決,從而實(shí)現(xiàn)更低延時(shí)、更高服務(wù)質(zhì)量、更低帶寬成本、更安全的AIGC算力供給。
最后,李浩表示,從傳輸?shù)剿懔?,網(wǎng)心未來業(yè)務(wù)演進(jìn)實(shí)施“三步走”:
第一步、降本增效。目前立足于能產(chǎn)生經(jīng)濟(jì)收益的場(chǎng)景以及客戶的實(shí)際需求,利用客戶擴(kuò)大網(wǎng)絡(luò)規(guī)模,提升網(wǎng)絡(luò)水平,降低成本,提高效率,推助企業(yè)良性擴(kuò)張。
第二步、功能迭代。逐漸豐富業(yè)務(wù)場(chǎng)景,助推云游戲、AIGC等業(yè)務(wù)的完善與推廣,堅(jiān)持對(duì)算力類需求的研發(fā)與覆蓋,持續(xù)提升算力布局和能力。
第三步、構(gòu)建生態(tài)。推動(dòng)邊緣網(wǎng)絡(luò)和算力疊加,對(duì)接產(chǎn)業(yè)場(chǎng)景并實(shí)現(xiàn)產(chǎn)業(yè)場(chǎng)景產(chǎn)品化,構(gòu)建開放網(wǎng)絡(luò)平臺(tái),吸引開發(fā)者、合作伙伴共同構(gòu)建生態(tài)。