Nvidia強勢壟斷AI:性能暴漲4.5倍!對手?不存在
AI世界如今最大的贏家是誰?毫無疑問是黃仁勛的NVIDIA,布局早,技術強,根本找不到對手,“躺著”就可以掙大錢了?,F(xiàn)在,NVIDIA又公布了最新一代Hopper H100計算卡在MLPerf AI測試中創(chuàng)造的新紀錄。讓我們一起看看吧!

Hopper H100早在2022年3月就發(fā)布了,GH100 GPU核心,臺積電4nm工藝,800億晶體管,814平方毫米面積。
它集成18432個CUDA核心、576個Tensor核心、60MB二級緩存,搭配6144-bit位寬的六顆HBM3/HBM2e高帶寬內存,支持第四代NVLink、PCIe 5.0總線。
相比于ChatGPT等目前普遍使用的A100,H100的理論性能提升了足足6倍。不過直到最近,H100才開始大規(guī)模量產,微軟、谷歌、甲骨文等云計算服務已開始批量部署。


MLPerf Inference是測試AI推理性能的行業(yè)通行標準,最新版本v3.0,也是這個工具誕生以來的第七個大版本更新。
對比半年前的2.1版本,NVIDIA H100的性能在不同測試項目中提升了7-54%不等,其中進步最大的是RetinaNet全卷積神經(jīng)網(wǎng)絡測試,3D U-Net醫(yī)療成像網(wǎng)絡測試也能提升31%。
標簽: