作為國內(nèi)一流的算力供應(yīng)商,浪潮信息近日在AI服務(wù)器交付領(lǐng)域再次取得新成果,旗下NF5468系列AI服務(wù)器率先支持英偉達(dá)最新推出的L40S GPU,這意味著在人工智能大模型訓(xùn)練和推理、元宇宙及圖形視頻處理等領(lǐng)域,浪潮信息已經(jīng)可以為客戶提供更強(qiáng)大的算力支持。

實(shí)際測(cè)試表明,搭載8顆NVIDIA L40S的浪潮信息NF5468服務(wù)器大幅提升了LLaMA大模型的微調(diào)訓(xùn)練性能。目前該產(chǎn)品已具備交付能力,客戶可以進(jìn)行下單采購。

本次浪潮信息推出的算力系統(tǒng)是兼具訓(xùn)練和推理能力的NF5468系列AI服務(wù)器,包括NF5468M6、NF5468A5、NF5468M7、NF5468A7等型號(hào),產(chǎn)品可以在4U空間內(nèi)搭載2顆高性能通用處理器、8張L40S GPU加速器及多顆高速互聯(lián)網(wǎng)絡(luò),從而滿足大模型計(jì)算對(duì)高算力、高互聯(lián)的極致性能需求。在軟件上,產(chǎn)品支持浪潮信息最新推出的OGAI大模型智算軟件棧,為客戶提供高效的大模型生產(chǎn)力支撐。

針對(duì)業(yè)界廣泛使用的LLaMA開源大型語言模型,浪潮信息NF5468服務(wù)器搭載8顆L40S GPU進(jìn)行了大模型訓(xùn)練性能測(cè)試,得益于浪潮信息在NF5468服務(wù)器的優(yōu)秀設(shè)計(jì)和大模型算法上的專業(yè)經(jīng)驗(yàn),L40S GPU的強(qiáng)大性能得以充分發(fā)揮,實(shí)際測(cè)試數(shù)據(jù)表明LLaMA大模型微調(diào)訓(xùn)練性能優(yōu)異。

借助L40S GPU的卓越性能,浪潮信息NF5468系列AI服務(wù)器可以出色完成LLaMA大模型訓(xùn)練任務(wù)。它的拓展性能更佳,可以幫助客戶迅速部署高性能的AI算力系統(tǒng)、采納強(qiáng)大的GPU加速器和領(lǐng)先的軟件生態(tài),從而為AI產(chǎn)業(yè)創(chuàng)新和發(fā)展提供強(qiáng)大的動(dòng)力。