世界最強(qiáng)AI芯片H200震撼發(fā)布!性能飆升90%
你知道嗎?11月14日在2023年的全球超算大會上,芯片巨頭英偉達(dá)可是發(fā)布了目前世界上超強(qiáng)的AI芯片——H200呢!它是H100芯片的升級版,比H100還要厲害60%到90%呢。
這H200芯片是基于英偉達(dá)Hopper架構(gòu)的,能和H100互相兼容,這樣就不怕原來的系統(tǒng)用不了啦。還有一個亮點是,它是英偉達(dá)首款使用HBM3e內(nèi)存的芯片,內(nèi)存容量達(dá)到了141GB,帶寬從3.35TB/s增加到4.8TB/s,提升了43%!
這個H200芯片,對于那些大模型的推理表現(xiàn)來說,真的是太贊了。比如,700億參數(shù)的Llama2大模型推理速度比H100快一倍,而且能耗還降低了一半呢!對于那些顯存密集型的HPC應(yīng)用來說,H200的顯存帶寬能確保高效地訪問操作數(shù)據(jù),與CPU相比,獲得結(jié)果的時間最多可提升110倍哦!
這個H200芯片預(yù)計將于2024年第二季度出貨,售價暫時還沒公布。但是,多家超算中心已經(jīng)準(zhǔn)備部署GH200超算節(jié)點,可以訪問特定云服務(wù)提供商搶先體驗GH200了??磥泶蠹覍@個H200芯片的期待都很高??!對此,你怎么看?
標(biāo)簽: