寒武紀(jì)宣布推出第二代云端AI芯片思元270（MLU270）及板卡產(chǎn)品，目標(biāo)是提供速度更快、功耗更低、性價比更高的AI加速解決方案。

據(jù)悉，思元270芯片采用TSMC 16nm工藝制造，其板卡產(chǎn)品可以通過PCIe接口快速部署在服務(wù)器和工作站內(nèi)。寒武紀(jì)本次公開的思元270板卡產(chǎn)品面向人工智能推斷任務(wù)，在ResNet50上推理性能超過10000fps。MLU270-S4 型板卡（半高半長）面向數(shù)據(jù)中心部署，集成16GB DDR4 內(nèi)存，支持ECC；MLU270-F4型板卡（全高全長）采用主動散熱設(shè)計，面向非數(shù)據(jù)中心部署場景，集成16GB DDR4 內(nèi)存，支持ECC。面向人工智能訓(xùn)練任務(wù)的思元270訓(xùn)練版板卡產(chǎn)品將于本年度第四季度推出。

思元270采用寒武紀(jì)公司自主研發(fā)的MLUv02指令集，可支持視覺、語音、自然語言處理以及傳統(tǒng)機(jī)器學(xué)習(xí)等高度多樣化的人工智能應(yīng)用，更為視覺應(yīng)用集成了充裕的視頻和圖像編解碼硬件單元。思元270芯片處理非稀疏深度學(xué)習(xí)模型的理論峰值性能提升至上一代MLU100的4倍，達(dá)到128TOPS（INT8）；同時兼容INT4和INT16運(yùn)算，理論峰值分別達(dá)到256TOPS和64TOPS；支持浮點(diǎn)運(yùn)算和混合精度運(yùn)算。

官方表示，寒武紀(jì)在定點(diǎn)訓(xùn)練領(lǐng)域已實現(xiàn)關(guān)鍵性突破，思元270訓(xùn)練版板卡將可通過8位或16位定點(diǎn)運(yùn)算提供卓越的人工智能訓(xùn)練性能，該技術(shù)有望成為AI芯片發(fā)展的重要里程碑。在系統(tǒng)軟件和工具鏈方面元270繼續(xù)支持寒武紀(jì)Neuware軟件工具鏈，支持業(yè)內(nèi)各主流編程框架。此外，為方便開發(fā)者更好地挖掘思元270超強(qiáng)的運(yùn)算能力、開拓更多的應(yīng)用領(lǐng)域，寒武紀(jì)將在近期向社區(qū)和開發(fā)者開放專用編程語言。