就在今天!港科大(廣州)HPC AI融合智算中心上線試運(yùn)行!
9月25日,香港科技大學(xué)(廣州)HPC AI融合智算中心(以下簡(jiǎn)稱“智算中心”)已完成聯(lián)調(diào)測(cè)試,并正式投入試運(yùn)行。
當(dāng)前,AIGC應(yīng)用正以驚人的速度發(fā)展,2018至2022年,大模型參數(shù)量從1億飆升至5400億。毫無疑問,AIGC憑借強(qiáng)大能力驚艷全世界的背后,是超大算力的加持。
算力,成了最稀缺、最緊俏的“新資源”。
1
擁抱前沿,快人一步
AIGC涉足教育行業(yè)的潛力不容忽視。今年6月初,香港科技大學(xué)(廣州)宣布,GPT服務(wù)已經(jīng)完成聯(lián)調(diào)測(cè)試并正式上線,服務(wù)全校教職工及學(xué)生。作為國(guó)內(nèi)率先在校內(nèi)全面啟用GPT服務(wù)的大學(xué),港科大(廣州)以“敢為天下先”的擔(dān)當(dāng),擁抱科研進(jìn)步,投身科研研發(fā)更是題中應(yīng)有之義。
港科大(廣州)推出的GPT-4和ChatGPT服務(wù),正是學(xué)校主動(dòng)擁抱前沿科技,積極探索推動(dòng)教學(xué)、科研及行政管理發(fā)展新方式的有力印證。
無論是AIGC,還是各科研領(lǐng)域的計(jì)算分析,都依賴于高質(zhì)量、成規(guī)模的算力。為進(jìn)一步滿足全校師生科研工作的需求,HPC AI融合智算中心的規(guī)劃應(yīng)運(yùn)而生。
2
國(guó)際視野,中國(guó)速度
莫道君行早,更有早行人。校長(zhǎng)特別助理、校長(zhǎng)辦公室主任李斌博士談到智算中心從藍(lán)圖到運(yùn)營(yíng)的過程,感慨頗深。早在2022年年中,港科大(廣州)開學(xué)前,倪明選校長(zhǎng)在全盤深入思考學(xué)校信息化基建工作時(shí),就對(duì)算力給予了高度重視。據(jù)校長(zhǎng)特別助理、校辦主任李斌博士介紹,倪明選校長(zhǎng)指出,“首先,作為一所全新的科技大學(xué),信息化設(shè)施必須立足于學(xué)校的科研和教學(xué)需求,采用最先進(jìn)的技術(shù)和設(shè)備,以確保在基礎(chǔ)設(shè)施建設(shè)上處于世界前列;其次,學(xué)校要充分利用第三方供應(yīng)商的成熟資源,汲取百家之長(zhǎng)、融會(huì)貫通,構(gòu)建具有港科大(廣州)特色和優(yōu)勢(shì)的信息化基礎(chǔ)設(shè)施;第三,要避免資源分散,由學(xué)校統(tǒng)籌建設(shè)和運(yùn)營(yíng)校級(jí)一體化的綜合信息化服務(wù)平臺(tái),為全校師生員工提供服務(wù);第四,要做到綠色環(huán)保和低碳清潔?!?/p>
9月8日,HPC+AI融合智算中心上線儀式暨元宇宙聯(lián)合創(chuàng)新實(shí)驗(yàn)室啟用典禮在香港科技大學(xué)(廣州)隆重舉行。
在去年9月學(xué)校開學(xué)之際,在倪明選校長(zhǎng)的倡導(dǎo)下,學(xué)校決策:?jiǎn)?dòng)智算中心項(xiàng)目,拓展學(xué)??蒲兴懔?。校長(zhǎng)特別助理、校長(zhǎng)辦公室主任李斌博士牽頭統(tǒng)籌該項(xiàng)目,資訊科技處、學(xué)校的多個(gè)學(xué)術(shù)部門及科研團(tuán)隊(duì)共同參與該項(xiàng)目。彼時(shí),ChatGPT還沒有震驚世界,算力需求噴發(fā)的局面也尚未成型。而正是港科廣管理團(tuán)隊(duì)極富國(guó)際視野和前瞻性的“提前落子”,讓學(xué)校智算中心在起步階段占據(jù)了一定先發(fā)優(yōu)勢(shì)。校長(zhǎng)辦公室資訊科技處 (ITD) 處長(zhǎng)吳剛?cè)滩蛔「锌簩W(xué)校又一次“踩對(duì)了節(jié)奏”。
資訊科技處(ITD)處長(zhǎng)吳剛在巡視智算中心機(jī)房
篳路藍(lán)縷,以啟山林。雖然啟動(dòng)較早,但要一步步從底層AI平臺(tái)的搭建、算力的分配、集成系統(tǒng)的研發(fā)、數(shù)據(jù)中心的施工到聯(lián)調(diào)測(cè)試、正式運(yùn)行,離不開中國(guó)移動(dòng)、華為、華三等多個(gè)校外合作方和校內(nèi)多個(gè)科研團(tuán)隊(duì)的內(nèi)外部通力合作。其中,信息樞紐院長(zhǎng)陳雷教授帶領(lǐng)團(tuán)隊(duì)與學(xué)校資訊科技處(ITD)相互配合,進(jìn)行了深入的算力調(diào)研和評(píng)估工作,并制定了具體的算力需求指標(biāo)。同時(shí),團(tuán)隊(duì)還對(duì)學(xué)校的智算中心集群進(jìn)行了測(cè)試,發(fā)現(xiàn)其集群性能出色,在擴(kuò)散模型訓(xùn)練等方面表現(xiàn)高效。據(jù)陳雷教授透露,元宇宙課室的課程設(shè)計(jì)和開發(fā)的課件也將在第二階段放到智算中心——即元宇宙課程系統(tǒng)云化。
在智算中心的建設(shè)過程中,算力需求井噴,可調(diào)度資源緊張,最終能夠按時(shí)完成智算中心的搭建和運(yùn)營(yíng),是“中國(guó)速度”在香港科技大學(xué)(廣州)的再一次體現(xiàn)。
3
灣區(qū)領(lǐng)先,國(guó)內(nèi)一流
香港科技大學(xué)(廣州)智算中心擁有強(qiáng)大的計(jì)算能力和出色的穩(wěn)定性,具有高度可擴(kuò)展性,支持多機(jī)多卡、管理異構(gòu)。核心算力包括通用HPC AI平臺(tái)和國(guó)產(chǎn)AI平臺(tái)兩大部分:其中,通用HPC AI平臺(tái)理論算力達(dá)到6.35PFlops@FP64,算力組成涵蓋英特爾CPU 14656核、AMD CPU 2560核、NVIDIA A800 GPU卡520張及NVIDIA A40 GPU卡120張,配套內(nèi)存2.3PB、數(shù)據(jù)存儲(chǔ)包含SSD 309TB和HDD 3.9PB;國(guó)產(chǎn)AI平臺(tái)理論算力達(dá)到19.04PFlops@FP16,算力組成涵蓋ARM CPU 1728核、Atlas 300T Pro GPU卡64張,Atlas 300V Pro GPU卡16張,配套內(nèi)存1.5TB、數(shù)據(jù)存儲(chǔ)772TB。
通過智算中心,用戶可快速處理海量數(shù)據(jù),進(jìn)行復(fù)雜的科學(xué)計(jì)算和工程模擬,更好地支持校園師生及科研團(tuán)隊(duì)快速開展科研、教學(xué)活動(dòng)。這樣的綜合算力水平、中外技術(shù)融合的多元化平臺(tái),讓港科大(廣州)智算中心達(dá)到了大灣區(qū)領(lǐng)先、國(guó)內(nèi)一流的水平。
但這僅僅只是香港科技大學(xué)(廣州)對(duì)智算中心發(fā)展規(guī)劃的第一步,未來從硬件上,學(xué)校獨(dú)立的數(shù)據(jù)中心正在進(jìn)行內(nèi)部改造,中心可容納算力是目前算力的6-8倍;從軟件上,學(xué)校資訊科技處(ITD)也將聯(lián)合校內(nèi)科研團(tuán)隊(duì)和校外合作方,打造適配不同科研需求的算力模型平臺(tái),讓這些來之不易的算力能夠最大化、最方便地助力學(xué)校乃至整個(gè)大灣區(qū)的科研需求。
4
規(guī)范管理,多元發(fā)展
為了保障智算中心資源得到合理分配及有效利用,學(xué)校資訊科技處(ITD)已經(jīng)做了多方面的準(zhǔn)備:通過測(cè)試階段已經(jīng)運(yùn)行的2400多個(gè)任務(wù),智算中心的知識(shí)庫(kù)已經(jīng)初具雛形,可以幫助使用團(tuán)隊(duì)了解相關(guān)資源信息和規(guī)范;同時(shí)對(duì)于算力資源的管理辦法也同步實(shí)施,保障智算中心的有效和穩(wěn)定運(yùn)行。
據(jù)介紹,本周三,學(xué)校資訊科技處(ITD)將聯(lián)合校內(nèi)專家及合作伙伴,組織智算中心宣講暨首次培訓(xùn)會(huì),也同步組建了HPC AI融合智算中心微信群方便校內(nèi)各科研團(tuán)隊(duì)進(jìn)行交流討論。
在智算中心的“任務(wù)清單”里,試運(yùn)行只是一個(gè)開始,快速組建運(yùn)營(yíng)團(tuán)隊(duì),年底實(shí)現(xiàn)“適配性升級(jí)”,不斷針對(duì)不同的科研課題優(yōu)化模型、完善使用體驗(yàn),繼續(xù)擴(kuò)大算力規(guī)模、打造服務(wù)灣區(qū)科研的超算中心……這些新任務(wù)、新挑戰(zhàn)又將接踵而至,但在“凡事皆可為”的科大精神鼓勵(lì)下,香港科技大學(xué)(廣州)的每一位成員,都在向著挑戰(zhàn)與機(jī)遇并存的人工智能時(shí)代,乘風(fēng)破浪,不斷前行。
圖文:篤學(xué)路1號(hào)編輯部