IT之家（故淵）

IT之家 12 月 15 日消息，三星使用內(nèi)置 PIM（processing-in-memory）的顯卡，打造出了全球首個(gè)大型計(jì)算系統(tǒng)。援引 Business Korea 報(bào)道，通過使用 96 張經(jīng)過 PIM 改造的 AMD Instinct MI100 GPU，將 AI 訓(xùn)練性能提高了 2.5 倍。

?PIM 是新型計(jì)算機(jī)內(nèi)存，可以加速 CPU 和 GPU 等處理器的處理能力。PIM 最大的特點(diǎn)是每個(gè)內(nèi)存模塊都能夠自行處理數(shù)據(jù)，從而減少在內(nèi)存和處理器之間傳輸所需的數(shù)據(jù)量。

三星曾在今年 10 月公開展示過經(jīng)過 PIM 改造的 GPU，而現(xiàn)在該公司將 96 張經(jīng)過 PIM 改造的 GPU 放在集群中。與普通顯存相比，這些經(jīng)過改進(jìn)的 MI100 芯片不僅性能提高了 2.5 倍，而且功耗降低了 2.67 倍，大大提高了 GPU 在運(yùn)行 AI 算法時(shí)的效率。

三星開發(fā) PIM 已有一段時(shí)間了。該公司在 2021 年演示了多種實(shí)現(xiàn)，涉及多種不同的內(nèi)存類型，包括 DDR4、LPDDR5X、GDDR6 和 HBM2。在 LPDDR5 形式中，三星在涉及 Meta AI 工作負(fù)載的測(cè)試程序中看到性能提高了 1.8 倍，功耗降低了 42.6%，延遲降低了 70%。

?IT之家了解到，AMD Instinct MI100 加速器經(jīng)過全新設(shè)計(jì)，全面迎接計(jì)算新時(shí)代。1 MI100 加速器采用 AMD CDNA 架構(gòu)，在計(jì)算和互連性能方面實(shí)現(xiàn)了巨大的飛躍，與上一代 AMD 加速器相比，高性能計(jì)算（FP32 矩陣）性能提升近 3.5 倍，而人工智能 (FP16) 性能則提升近 7 倍。

?三星并不是唯一一家開發(fā) PIM 芯片的公司 ——SK 海力士今年早些時(shí)候發(fā)布了自己的 PIM 模塊。根據(jù) SK 海力士的初步測(cè)試，其 GDDR6-AiM（內(nèi)存加速器）應(yīng)用程序可將 AI 處理速度提高 16 倍，并將功耗降低 80%。這比三星修改后的 MI100s 快很多，但我們不知道 SK hynix 使用什么工具進(jìn)行測(cè)試，因此不能直接比較。