前段時(shí)間Intel公布了Habana Gaudi 2加速器的MLPerf測(cè)試結(jié)果，表明了它在先進(jìn)的視覺語言模型上擁有卓越的性能，現(xiàn)在三個(gè)月過去了，Intel再次公布了這測(cè)試的最新結(jié)果，獲得的數(shù)據(jù)證明Gaudi AI加速器可以成為NVIDIA H100 GPU的可行代替品，顯示了Intel在AI推理方面極具競(jìng)爭力。

根據(jù)Intel公布的數(shù)據(jù)，Gaudi 2加速器的性能有不錯(cuò)的提升，超過了對(duì)手NVIDIA的A100 GPU，Intel表示與市場(chǎng)上同類產(chǎn)品相比，他們的Gaudi 2加速器有更佳的價(jià)格，考慮到NVIDIA A100的售價(jià)，他們的說法確實(shí)沒錯(cuò)。

Gaudi 2在GPT-J模型上的推理結(jié)果強(qiáng)有力地驗(yàn)證了其具有競(jìng)爭力的性能，與NVIDIA的H100相比，Gaudi 2的表現(xiàn)還是可以的，H100相對(duì)于Gaudi 2只有1.09倍服務(wù)器以及1.28倍離線性能優(yōu)勢(shì)。而Gaudi 2對(duì)比A100，服務(wù)器性能要高出2.4倍，離線性能則高出2倍，Gaudi 2提交的結(jié)果采用FP8數(shù)據(jù)類型，并在這種新數(shù)據(jù)類型上達(dá)到了99.9%的準(zhǔn)確率。

隨著每6-8周公布的Gaudi 2軟件更新，Intel將繼續(xù)在MLPerf基準(zhǔn)測(cè)試中展現(xiàn)其產(chǎn)品的性能提升，以及持續(xù)擴(kuò)大的模型覆蓋范圍。

除此之外，Intel還公布了第四代至強(qiáng)可擴(kuò)展處理器以及至強(qiáng)CPU Max的一些測(cè)試結(jié)果，其中包括GPT-J模型。結(jié)果顯示，包括視覺、語言處理、語音和音頻翻譯模型，以及更大的DLRM v2深度學(xué)習(xí)推薦模型及ChatGPT-J模型在內(nèi)，第四代至強(qiáng)處理器對(duì)于通用AI工作負(fù)載擁有出色的性能。

第四代至強(qiáng)可擴(kuò)展處理器是通過流行的AI框架與庫構(gòu)建及部署通用AI工作負(fù)載的理想選擇。對(duì)于GPT-J對(duì)約1000-1500字新聞稿進(jìn)行100字總結(jié)的任務(wù)，第四代至強(qiáng)可擴(kuò)展處理器可在離線模式下完成每秒兩段的總結(jié)提要，在實(shí)時(shí)服務(wù)器模式下完成每秒一段的總結(jié)提要。

Intel首次提交了英特爾至強(qiáng)CPU Max系列的MLPerf結(jié)果，該系列可提供高達(dá)64GB的高帶寬內(nèi)存。對(duì)于GPT-J而言，它是僅有的能夠達(dá)到99.9%準(zhǔn)確度的CPU，這對(duì)于對(duì)精度要求極高的應(yīng)用來說至關(guān)重要。

Intel與OEM廠商合作提交了測(cè)試結(jié)果，進(jìn)一步展示了其AI性能的可擴(kuò)展性，以及基于至強(qiáng)處理器的通用服務(wù)器的可獲取性，充分滿足客戶服務(wù)水平協(xié)議 (SLA)。

Intel執(zhí)行副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理Sandra Rivera表示：“正如最新的MLCommons結(jié)果顯示，我們擁有強(qiáng)大的、具有競(jìng)爭力的人工智能產(chǎn)品組合以滿足客戶對(duì)高性能、高效率的深度學(xué)習(xí)推理及訓(xùn)練的需求，同時(shí)，針對(duì)各種規(guī)模的人工智能模型，英特爾產(chǎn)品組合均具有領(lǐng)先的性價(jià)比優(yōu)勢(shì)。”

本文轉(zhuǎn)載自：超能網(wǎng)

文章作者：Strike

文章原鏈接：

https://www.expreview.com/90070.html