最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

大模型時代,AI芯片廠商的機遇與挑戰(zhàn)

2023-10-13 23:26 作者:比特網(wǎng)  | 我要投稿

ChatGPT的推出,可謂一石激起千層浪,不僅引起了人們的廣泛關(guān)注,更吸引到眾多玩家紛紛加入大模型產(chǎn)品的開發(fā)陣營。而不斷涌現(xiàn)的大模型似猛獸般吞噬著算力,也給AI芯片市場帶來了巨大變革。

毫無疑問,2023年是大模型的迸發(fā)之年。橫空出世的ChatGPT宛如導(dǎo)火索,迅速引燃了大模型的戰(zhàn)火。據(jù)中國科學(xué)技術(shù)信息研究院《中國人工智能大模型地圖研究報告》顯示,從全球已經(jīng)發(fā)布的大模型分布來看,中國和美國研發(fā)的大模型數(shù)量已經(jīng)占全球總數(shù)的80%以上。其中,截至2023年5月底,國內(nèi)10億級參數(shù)規(guī)模以上基礎(chǔ)大模型,至少已發(fā)布79個。而且,大模型數(shù)量還在快速增加。 算力需求爆發(fā) 大模型全稱大型語言模型(LargeLanguageModel,LLM),是一類基于深度學(xué)習(xí)的人工智能模型,可以從海量數(shù)據(jù)集中獲得的知識,可以根據(jù)從海量數(shù)據(jù)集中獲得的知識來識別、總結(jié)、翻譯、預(yù)測和生成文本和其他形式的內(nèi)容。簡單來說,大模型具有非常強大的學(xué)習(xí)和推理能力,可以提升人工智能的識別和預(yù)測能力,使之能夠更加高效、準(zhǔn)確地完成各項任務(wù)。 不過,需要指出的是,大模型的訓(xùn)練過程是計算密集型的,并且需要大量的計算能力。大模型訓(xùn)練效率取決于各種因素,如模型大小、訓(xùn)練數(shù)據(jù)大小、訓(xùn)練迭代次數(shù)和用于訓(xùn)練的硬件。通常,模型大小和訓(xùn)練數(shù)據(jù)越大,就需要越多的計算能力。 例如,具有超過1750億個參數(shù)的GPT-3.5在微軟Azure?AI超算基礎(chǔ)設(shè)施(由V100GPU組成的高帶寬集群)上進行訓(xùn)練,總算力消耗約3640PF-days。也就是說,假如每秒計算一千萬億次,計算3640天,需要7至8個投資規(guī)模約30億元、算力為500P的數(shù)據(jù)中心才能支撐運行。 作為算力的核心引擎,AI芯片的重要性不言而喻。據(jù)Transparency?Market?Research(TMR)研究顯示,2021年全球AI芯片組市場估值約為455億美元,該市場2022年至2031年,復(fù)合年增長率可能高達31.8%,到2031年,市場規(guī)??赡苓_到7174億美元。這表明,AI芯片市場擁有著巨大的潛力和前景。 芯片廠商摩拳擦掌 伴隨著大模型的火熱,各大科技廠商在AI芯片領(lǐng)域可謂動作不斷。 其中,英偉達先后推出了專門用于處理需要強大計算能力支持的密集型?HPC、AI和圖形處理任務(wù)的V100;用于訓(xùn)練AI模型,執(zhí)行推理任務(wù)或訓(xùn)練完成后的神經(jīng)網(wǎng)絡(luò)任務(wù)的A100,以及專為大型語言模型優(yōu)化的處理器H100等多款用于AI訓(xùn)練的芯片。 英特爾在5月份公布了將于2025年推出的AI芯片“Falcon?Shores”的一些新細(xì)節(jié),包括:高帶寬#FormatAID_0#(HBM3)規(guī)格將達到288GB,支持8bit浮點運算。另外,在英特爾2023年二季度財報電話會上,英特爾的CEO帕特?基辛格(Pat?Gelsinger)表示,英特爾對AI持非常樂觀的態(tài)度,并表示英特爾計劃在未來制造的每一款產(chǎn)品中都融入AI。 AMD也不甘示弱,在2023年6月發(fā)布了一款新芯片MI300X,專為大模型和尖端人工智能應(yīng)用而設(shè)計。AMD首席執(zhí)行官蘇姿豐(Lisa?Su)表示,AMD正在增加AI相關(guān)的研發(fā)支出,公司已經(jīng)制定AI戰(zhàn)略,包括AI專用芯片和軟件的開發(fā),目標(biāo)是讓AI成為公司的重要增長動力。 可以說,大模型的不斷涌現(xiàn)必將推動新一輪算力需求的爆發(fā),同時也為AI芯片廠商帶來了前所未有的機遇。 云服務(wù)商競速新賽道? 但與此同時,巨大的算力需求也暴露出用于訓(xùn)練大模型的AI芯片全球供應(yīng)鏈的局限性。人工智能行業(yè)分析師表示,持續(xù)的高端芯片短缺影響了大大小小的企業(yè),包括領(lǐng)先的人工智能公司,而且至少在一年或更長時間內(nèi)可能不會有實質(zhì)性的改善。 例如,在供應(yīng)AI芯片方面占據(jù)絕對市場份額的英偉達,正開足馬力生產(chǎn)AI芯片,然而媒體報道稱,小型和大型云提供商的大規(guī)模H100集群容量即將耗盡,H100的嚴(yán)重缺貨問題至少會持續(xù)到2024年底。另據(jù)eBay網(wǎng)站顯示,英偉達旗艦級芯片H100的售價已高達4.5萬美元,而且貨源較上半年也顯著減少。 此外,大模型訓(xùn)練除了需要算力支撐外,還會造成大量的能源消耗。以GPT-3為例,這款大模型擁有1750億個參數(shù),訓(xùn)練時消耗28.4萬千瓦時的能源。相比之下,擁有2500萬個參數(shù)的計算機視覺模型ResNet-50只需要1500千瓦時的能量來訓(xùn)練。由此可見,大模型的功耗要求遠(yuǎn)高于其他AI應(yīng)用。 受以上因素影響,不少云服務(wù)商在與芯片廠商合作的同時,也開始根據(jù)自身需求自研AI芯片。 值得一提的是,僅在2023年,就有多家云服務(wù)商公開了其自研AI芯片的最新進展。據(jù)媒體報道,微軟正在開發(fā)代號為Athena(雅典娜)的AI芯片,旨在為大模型提供動力;4月初,谷歌公布了基于第四代TPU芯片,用于訓(xùn)練AI模型使用的超級計算機的最新細(xì)節(jié),報道稱,Tensor?Processing?Unit(TPU?v4),已應(yīng)用于90%以上的人工智能訓(xùn)練工作;同月中旬,亞馬遜云科技宣布Amazon?EC2?Trn1n和Amazon?EC2?Inf2實例正式可用;7月份,IBM高管Mukesh?Khare在接受采訪時表示,IBM正在考慮使用一種名為人工智能單元(Artificial?Intelligence?Unit)的芯片作為其新的“watsonx”云服務(wù)的一部分…… 實際上,選擇自研AI芯片,將給云服務(wù)商帶來多方面的優(yōu)勢。一是可以使云服務(wù)商降低對芯片廠商的依賴程度;二是云服務(wù)商可以在每個業(yè)務(wù)流程中做到效率與成本的最優(yōu),降低資源閑置造成浪費的風(fēng)險;三是云服務(wù)商還可以提供更多云服務(wù)器配置,為用戶帶來多種選擇。 當(dāng)然,這也意味著,芯片廠商要想從云服務(wù)商擁有自研芯片的領(lǐng)域獲得訂單,就需要付出更多努力。 寫在最后: 當(dāng)前,大模型正呈現(xiàn)蓬勃發(fā)展態(tài)勢,越來越多的企業(yè)緊跟時代浪潮,打造自己的大模型??梢灶A(yù)見的是,隨著大模型規(guī)模和復(fù)雜程度的不斷提升,對于AI芯片的需求也會持續(xù)增加,AI芯片市場必將迎來發(fā)展的黃金時代。 而對于芯片廠商來說,還應(yīng)在提升AI芯片產(chǎn)量的同時,不斷推動技術(shù)的創(chuàng)新和突破,研發(fā)出針對特定領(lǐng)域的具有競爭優(yōu)勢的AI芯片。

大模型時代,AI芯片廠商的機遇與挑戰(zhàn)的評論 (共 條)

分享到微博請遵守國家法律
石狮市| 宜兰市| 古交市| 高淳县| 灌阳县| 内黄县| 大方县| 西充县| 临邑县| 兰溪市| 井冈山市| 同江市| 云和县| 阿荣旗| 柏乡县| 玉树县| 陆丰市| 永春县| 呈贡县| 烟台市| 阜城县| 旺苍县| 仙居县| 杂多县| 高碑店市| 阜阳市| 白河县| 建阳市| 西宁市| 慈利县| 安国市| 桃江县| 兰州市| 金湖县| 罗江县| 孟连| 永春县| 马鞍山市| 石渠县| 香港 | 卢氏县|