"“算法芯片化”一直以來(lái)都是云天勵(lì)飛的核心能力。"

本文為IPO早知道原創(chuàng)

作者｜Stone Jin

據(jù)IPO早知道消息，云天勵(lì)飛在7月6日至8日舉辦的2023世界人工智能大會(huì)上展示了自主設(shè)計(jì)開(kāi)發(fā)的新一代邊緣計(jì)算芯片 Deep Edge10 系列 SoC 芯片，并公布“天書(shū)”大模型的最新動(dòng)態(tài)。

其中，Deep Edge10 系列 SoC 芯片已于2022年底成功流片，采用國(guó)內(nèi)先進(jìn)工藝，支持多芯粒擴(kuò)展的 Chiplet 技術(shù)，可提供 12TOPS（INT8）整型計(jì)算和 2T FLOPS（FP16）浮點(diǎn)計(jì)算的深度學(xué)習(xí)推理計(jì)算算力，滿足市場(chǎng)對(duì)處理芯片在算法的多樣性、準(zhǔn)確性、算力密度及效能方面的要求，可廣泛應(yīng)用于AIoT邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。預(yù)計(jì)今年量產(chǎn)投入使用。

而本次WAIC上首次披露的“云天天書(shū)”基礎(chǔ)大模型架構(gòu)則包含三個(gè)層級(jí)：通用大模型、行業(yè)大模型、場(chǎng)景大模型——云天勵(lì)飛基于算法開(kāi)發(fā)平臺(tái)和算法芯片化平臺(tái)，并通過(guò)海量高質(zhì)量數(shù)據(jù)預(yù)訓(xùn)練生產(chǎn)通用大模型；在通用大模型基礎(chǔ)上，引入高質(zhì)量行業(yè)數(shù)據(jù)，生產(chǎn)行業(yè)大模型；再在行業(yè)大模型基礎(chǔ)上，通過(guò)細(xì)分場(chǎng)景數(shù)據(jù)微調(diào)研發(fā)場(chǎng)景大模型。通過(guò)這樣的三級(jí)架構(gòu)，讓大模型為千行百業(yè)賦能。

值得一提的是，“算法芯片化”一直以來(lái)都是云天勵(lì)飛的核心能力——“算法芯片化”并不是簡(jiǎn)單的“算法+芯片”,而是云天勵(lì)飛基于對(duì)場(chǎng)景的理解,以及對(duì)算法關(guān)鍵計(jì)算任務(wù)在應(yīng)用場(chǎng)景中的量化分析，將芯片設(shè)計(jì)者的理念、思想與算法相融合的AI芯片設(shè)計(jì)流程。

譬如，本次亮相的DeepEdge10就能夠為大模型在邊側(cè)推理場(chǎng)景提供充足算力，可以解決大模型應(yīng)用和部署過(guò)程中的各類挑戰(zhàn)，包括新的神經(jīng)網(wǎng)絡(luò)計(jì)算范式、高帶寬傳輸、分布式并行計(jì)算、低精度混合計(jì)算等，能夠?yàn)榇竽Ｐ秃蛯?shí)際應(yīng)用場(chǎng)景嫁接起橋梁，讓大模型技術(shù)能夠高效、低成本地部署到終端，幫助場(chǎng)景探索更多大模型的創(chuàng)新應(yīng)用。

在落地方面?；凇霸铺焯鞎?shū)”大模型，云天勵(lì)飛已與深圳龍崗政數(shù)局共同探索了大模型在政務(wù)咨詢服務(wù)系統(tǒng)的應(yīng)用——通過(guò)對(duì)海量的政策、法規(guī)、辦理流程等文本進(jìn)行結(jié)構(gòu)化梳理和分析，形成易于查閱的知識(shí)庫(kù)；幫助服務(wù)人員快速查詢和獲取準(zhǔn)確的信息，減少查閱時(shí)間，提高政務(wù)服務(wù)工作效率。目前該系統(tǒng)在行政服務(wù)大廳探索應(yīng)用，未來(lái)計(jì)劃逐步拓展到其他政府機(jī)構(gòu)和公共服務(wù)領(lǐng)域，如法務(wù)、金融、教育、醫(yī)療、交通等。此外，云天勵(lì)飛與龍崗政數(shù)局合作探索打造的“大模型政務(wù)咨詢服務(wù)系統(tǒng)”還入選了中國(guó)信通院《通用人工智能創(chuàng)新應(yīng)用案例集》。

另外值得注意的是，本次云天勵(lì)飛展位在中國(guó)電子展區(qū)內(nèi)，作為中國(guó)電子信創(chuàng)產(chǎn)業(yè)的一部分亮相。

作為中國(guó)電子主導(dǎo)的“自主安全計(jì)算產(chǎn)業(yè)生態(tài)鏈”的重要支撐單位，云天勵(lì)飛現(xiàn)與中國(guó)電子已在信創(chuàng)產(chǎn)業(yè)生態(tài)鏈的諸多領(lǐng)域展開(kāi)合作，包括與中國(guó)電子飛騰CPU、麒麟OS操作系統(tǒng)完成適配兼容，聯(lián)合推出飛騰機(jī)器視覺(jué)系統(tǒng)聯(lián)合解決方案，以及基于公司AI芯片打造的中國(guó)長(zhǎng)城臺(tái)式機(jī)立體指靜脈生物識(shí)別模組、智能工控盒子等硬件產(chǎn)品。

另外，在以IP為基礎(chǔ)的人工智能平臺(tái)生態(tài)合作方面，云天勵(lì)飛2022年與國(guó)內(nèi)頭部的AIoT芯片設(shè)計(jì)廠商、智慧汽車芯片設(shè)計(jì)廠商、服務(wù)機(jī)器人廠商、國(guó)家重點(diǎn)實(shí)驗(yàn)室等形成了合作，提供公司的最新一代人工智能處理器NNP300的IP授權(quán)，由下游廠商進(jìn)行面向行業(yè)的人工智能芯片設(shè)計(jì)和生產(chǎn)。

本次WAIC期間，云天勵(lì)飛還與中國(guó)電子云、中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、中國(guó)信通院、華為昇騰聯(lián)合發(fā)起一系列人工智能與大模型相關(guān)的生態(tài)聯(lián)盟，與行業(yè)內(nèi)頭部企業(yè)與機(jī)構(gòu)一起，共建健康、有序的人工智能發(fā)展環(huán)境。