IT之家（池淵）實(shí)習(xí)

IT之家 7 月 11 日消息，英特爾今日面向中國市場推出全新 Gaudi2 處理器，主要應(yīng)用于加速 AI 訓(xùn)練及推理。

IT之家匯總該款處理器參數(shù)信息：

24 個(gè)可編程 Tensor 處理器核心（TPCs）

21 個(gè) Gbps（RoCEv2）以太網(wǎng)接口

96GB HBM2E 內(nèi)存容量

2.4TB / 秒的總內(nèi)存帶寬

48MB 片上 SRAM

集成多媒體處理引擎

英特爾 Gaudi2 處理器的架構(gòu)重點(diǎn)在于高效擴(kuò)展，以滿足大規(guī)模語言模型及生成式 AI 模型的需求；該處理器的每張芯片集成了 21 個(gè)專用于內(nèi)部互聯(lián)的 100Gbps 以太網(wǎng)接口。

在 Stable Diffusion 訓(xùn)練上，英特爾 Gaudi2 處理器展示了從 1 張卡至 64 張卡近線性 99% 的擴(kuò)展性，從 256 個(gè)加速器到 384 個(gè)加速器可實(shí)現(xiàn)接近線性的 95% 擴(kuò)展效果。

英特爾與浪潮信息合作的 AI 服務(wù)器 NF5698G7 就是基于 Gaudi2 處理器，NF5698G7 是專為面向生成式 AI 市場創(chuàng)新開發(fā)的新一代 AI 服務(wù)器，該服務(wù)器內(nèi)部集成了 8 顆 Gaudi2 加速卡 HL-225B。

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。