"大模型時(shí)代，AI推理芯片是應(yīng)用落地的關(guān)鍵承載體。"

本文為IPO早知道原創(chuàng)

作者｜Stone Jin

據(jù)IPO早知道消息，云天勵(lì)飛于2023年11月15日的高交會(huì)開幕式上發(fā)布了新一代AI芯片DeepEdge10。

值得一提的是，DeepEdge10是國(guó)內(nèi)首創(chuàng)的國(guó)產(chǎn)14nm Chiplet大模型推理芯片——其采用自主可控的國(guó)產(chǎn)工藝，內(nèi)含國(guó)產(chǎn)RISC-V核，支持大模型推理部署。依托自研芯片DeepEdge10創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡，已適配并可承載SAM CV大模型、Llama2等百億級(jí)大模型運(yùn)算，可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。

這里不妨補(bǔ)充一點(diǎn)，傳統(tǒng)的算法開發(fā)和芯片大都難以適應(yīng)新一代人工智能邊緣計(jì)算場(chǎng)景的產(chǎn)品化需求，而大模型的出現(xiàn)為行業(yè)提供了算法層面的解決之道。但大模型在邊緣計(jì)算場(chǎng)景要面向?qū)崙?zhàn)發(fā)揮作用，則需要AI大模型推理芯片的支持。

對(duì)于AI芯片而言，大模型帶來了全新的計(jì)算泛式和計(jì)算要求。芯片需要具備更大的算力、更大的內(nèi)存帶寬、更大的內(nèi)存容量，才能支持巨量參數(shù)的大模型在邊緣端運(yùn)行。同時(shí)，AI邊緣推理芯片還承擔(dān)了“落地應(yīng)用最后一公里”的職責(zé)，這就意味著AI邊緣推理芯片不僅要支持大模型等AI計(jì)算任務(wù)，還需要具備較強(qiáng)的通用算力。

針對(duì)上述場(chǎng)景需求，云天勵(lì)飛打造了新一代邊緣計(jì)算芯片DeepEdge10。該芯片具有SoC主控集成度；采用D2D Chiplet技術(shù)和C2C Mesh擴(kuò)展架構(gòu)，可實(shí)現(xiàn)算力的靈活擴(kuò)展；內(nèi)置云天勵(lì)飛最新的第四代神經(jīng)網(wǎng)絡(luò)處理器。

基于一系列創(chuàng)新技術(shù)，云天勵(lì)飛打造了系列化芯片，現(xiàn)已開發(fā)出 Edge10C、Edge10 標(biāo)準(zhǔn)版和 Edge10Max 三款芯片；出貨形態(tài)包括芯片、板卡、盒子、加速卡、推理服務(wù)器等，可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。依托Dee Edge10創(chuàng)新的D2D chiplet架構(gòu)打造的X5000推理卡，已適配并可承載SAM CV大模型、Llama2等百億級(jí)大模型運(yùn)算。

目前，云天勵(lì)飛已向國(guó)內(nèi)頭部的AIoT芯片設(shè)計(jì)廠商、智慧汽車芯片設(shè)計(jì)廠商、服務(wù)機(jī)器人廠商、國(guó)家重點(diǎn)實(shí)驗(yàn)室等提供神經(jīng)網(wǎng)絡(luò)處理器的IP授權(quán)。

事實(shí)上，作為國(guó)內(nèi)少有的自成立之初就堅(jiān)持芯片研發(fā)的AI企業(yè)，云天勵(lì)飛目前已完成了3代指令集架構(gòu)、4代神經(jīng)網(wǎng)絡(luò)處理器架構(gòu)的研發(fā)，且已陸續(xù)商用。此外，通過多年的投入，云天勵(lì)飛已建立起一支核心芯片團(tuán)隊(duì)，設(shè)計(jì)經(jīng)驗(yàn)平均超過14年。

值得注意的是，云天勵(lì)飛提出的“算法芯片化”戰(zhàn)略并不是簡(jiǎn)單的“算法+芯片”,而是云天勵(lì)飛基于對(duì)場(chǎng)景的理解,以及對(duì)算法關(guān)鍵計(jì)算任務(wù)在應(yīng)用場(chǎng)景中的量化分析，將芯片設(shè)計(jì)者的理念、思想與算法相融合的AI芯片設(shè)計(jì)流程，能夠讓AI芯片在實(shí)際應(yīng)用中發(fā)揮更優(yōu)的效果。

云天勵(lì)飛的自主研發(fā)芯片，也是其自進(jìn)化城市智能體戰(zhàn)略的重要引擎。2020年，云天勵(lì)飛在高交會(huì)上正式發(fā)布自進(jìn)化城市智能體戰(zhàn)略。驅(qū)動(dòng)自進(jìn)化城市智能體發(fā)展的核心邏輯，是打造“應(yīng)用生產(chǎn)數(shù)據(jù)、數(shù)據(jù)訓(xùn)練算法、算法定義芯片、芯片規(guī)?；x能應(yīng)用”的數(shù)據(jù)飛輪。芯片是決定AI應(yīng)用廣度與深度的關(guān)鍵載體，也是自進(jìn)化城市智能體建設(shè)的重要算力支撐。

未來，云天勵(lì)飛將繼續(xù)加大自主研發(fā)力度，立足自主可控，以自研“芯”，為自進(jìn)化城市智能體發(fā)展提供強(qiáng)大引擎。