AI算力需求持續(xù)釋放，重點看好AI服務器產業(yè)鏈
2023-07-05 13:51 作者:全行業(yè)報告庫 | 我要投稿
--?報告摘要?--
A I服務器直接受益于需求端增長， Nvidia高速互聯(lián)助力Al運算。2018年至今，模型升級帶來參數(shù)量指數(shù)級增加，Al訓練+推理段模型需求催生AI 服務器海量需求(訓練階段算力需求=6×模型參數(shù)數(shù)量×訓練集規(guī)模)，按照A100640GB服務器參數(shù)假設，據(jù)測算，訓練端需要服務器數(shù)量為3423臺/日，推理端按照1億活躍用戶測算對應成本為4000萬美元，并隨著用戶量和訪問互動量上升， 算力需求持續(xù)提升。此外， Nvidia高速互聯(lián)助力A I 運算，800G交換機陸續(xù)發(fā)布，下一代超寬互聯(lián)蓄勢待發(fā)。
--?以上為本文報告前10頁預覽?--
標簽：
