?

　　編輯 | 謝治賢

　　出品 | 于見（ID：mpyujian）

　　由于數(shù)據(jù)的海量激增以及計算能力的不斷提高，人工智能產(chǎn)業(yè)的發(fā)展呈現(xiàn)出激蕩的趨勢。但無論是數(shù)據(jù)采集、存儲還是計算能力的提高都離不開芯片。在當前人工智能產(chǎn)業(yè)的激烈競爭中，人工智能芯片成為最具有戰(zhàn)略意義的一部分。

　　前不久，天數(shù)智芯在杭州召開新品發(fā)布會，發(fā)布了首款高性能邊緣端人工智能推理芯片Iluvatar CoreX I，并正式上線。芯片作為智能產(chǎn)業(yè)發(fā)展的核心靈魂。芯片產(chǎn)品的發(fā)布自然是行業(yè)進程中的“高光時刻”。

　　這一面向邊緣人工智能推理的芯片具有高精度的特點，據(jù)發(fā)布會介紹，其峰值計算能力效率是主流競爭對手的10倍，應(yīng)用遷移只需1-2周（其他芯片需要1-3個月）。這些技術(shù)和性能特征顯然很有吸引力，但智能核心將帶來的變化不能僅來自硬件。

　　作為傳統(tǒng)產(chǎn)業(yè)生命周期較長的產(chǎn)品，硬件芯片不僅要支持以人工智能為代表的當今數(shù)據(jù)驅(qū)動應(yīng)用，還要承載過去長期商業(yè)智能的大規(guī)模需求，以及應(yīng)用未來可能出現(xiàn)的算法變化，提供通用計算支持，這給天數(shù)智芯產(chǎn)品戰(zhàn)略和軟硬件結(jié)合綜合能力出了一道難題。

　　芯片提升之處

　　像大多數(shù)公司一樣，天數(shù)智芯推出AI芯片以滿足數(shù)據(jù)時代的需要為目的。然而，天數(shù)智芯對邊緣AI芯片的理解是不同的。天數(shù)智芯副總裁梁斌在新產(chǎn)品發(fā)布會上說：我們發(fā)現(xiàn)目前的邊緣端芯片產(chǎn)品解決方案有四個痛點：第一，大多數(shù)產(chǎn)品關(guān)注的是低精度、低功耗、低計算能力的應(yīng)用場景。為了追求性價比，在一定程度上犧牲了對精度的要求；第二，人工智能芯片產(chǎn)品大多以消費類產(chǎn)品為主，不能滿足部分工業(yè)產(chǎn)品的要求；第三，由于大部分芯片產(chǎn)品采用了自行開發(fā)的硬件架構(gòu)，只能用軟件編譯工具與主流框架兼容，現(xiàn)有的應(yīng)用遷移成本非常高且耗時較長；第四，由于芯片的架構(gòu)和開發(fā)系統(tǒng)都是自主研發(fā)的，用戶開發(fā)門檻很高，很多端到端的需求無法滿足。

　　針對這些痛點，天數(shù)智芯提出了解決方案。Iluvatar CoreX I芯片采用16nm技術(shù)和完全自主開發(fā)的數(shù)據(jù)流架構(gòu)。核心可提供32路數(shù)據(jù)并行處理能力，具有良好的可擴展性和五大亮點：一是可以提供FP16的高精度，提高準確率；二是在功耗小于5瓦的情況下，每片芯片可提供高達4.8TFLOPS的運算能力和每秒1000幀的圖像處理能力；三是可以提供本機TensorFlow和透明遷移的兼容性；四是能以高穩(wěn)定性滿足工業(yè)需求，以高性價比滿足消費需求；五是能提供一站式、端到端的解決方案，為開發(fā)用戶提供軟硬件結(jié)合的開發(fā)環(huán)境。這是Iluvatar CoreX I在芯片上的五個亮點。

　　此外，CPU靈活性和計算能力可擴展性也得到了提高。所謂CPU的靈活性是CoreX I AI加速芯片可以適應(yīng)x86 CPU、ARM CPU和國內(nèi)自主開發(fā)的CPU，如龍芯CPU。可擴展性是指與PCIE 4.0的完全集成。通過單卡、雙卡和四卡的配置，可以有效地線性擴展計算能力，控制延時。據(jù)悉，在8卡配置中，單機可提供38TFLOPS以上的計算能力。

　　梁斌指出，通過對主流算法的優(yōu)化，基于數(shù)據(jù)流的高能高效運行、高帶寬和大容量的本地存儲器，Iluvatar CoreX I進一步彌補了目前主流競爭對手計算能力不足的核心問題。根據(jù)梁斌給出的數(shù)據(jù)，目前市面上的15瓦AI芯片提供的計算能力為1.5TFLOPS，能效比約為0.1。天數(shù)智芯片Iluvatar CoreX I在功耗低于4.7W的情況下能提供4.8TFLOPS的計算能力，與主流競爭對手相比，提供了10倍以上的能效比。

　　用戶場景應(yīng)用受限

　　不過，客戶對計算能力的需求是為過去、現(xiàn)在和未來的負載都能提供很好的支撐。用戶并不關(guān)注峰值數(shù)據(jù)，他們更關(guān)心實際場景中的性能改進。因此，雖然Iluvatar CoreX I能效比數(shù)據(jù)讓人眼前一亮，但在注重用戶的使用上，上面提到的CPU靈活性和可擴展性，以及透明遷移必須落到實際應(yīng)用場景才能見效。

　　人工智能應(yīng)用通常包括幾個方面，芯片、軟件庫、TensorFlow操作符、TensorFlow API函數(shù)。要實現(xiàn)多樣的場景應(yīng)用性，需通過與成熟的開發(fā)生態(tài)系統(tǒng)進行原生兼容，客戶無需任何代碼更改，以實現(xiàn)應(yīng)用程序遷移。市面上大多數(shù)人工智能芯片產(chǎn)品都是基于底層軟件庫和自主開發(fā)的編譯器SDK。通過耗時的代碼轉(zhuǎn)換，大多數(shù)客戶的應(yīng)用程序需要很長的時間才能適應(yīng)，而這也對天數(shù)智芯造成了不少困難。

　　為了更好地滿足客戶的需求，天數(shù)智芯基于新的人工智能芯片提供了兩大解決方案：邊緣端計算系統(tǒng)板和PCIe加速卡。邊緣計算系統(tǒng)板主要針對邊緣端應(yīng)用的嵌入式集成解決方案的應(yīng)用場景，如智能垃圾分類、智能零售、智能監(jiān)控等。同時，也可以在邊緣服務(wù)器上直接配置PCIe邊緣加速卡，單卡配置可以支持一顆芯片，或兩到四顆芯片。

　　還需要注意的是，天數(shù)智芯必須進一步優(yōu)化解決邊緣端、邊緣云和中心云三大系列芯片，因為這些芯片的設(shè)計是為了更好地滿足人工智能和5G的需求。

　　天數(shù)智芯負責人也意識到：“我們下一個要發(fā)布的芯片是高端云訓練GPGPU芯片?；?nm工藝，采用自主研發(fā)的GPGPU芯片架構(gòu)，提供混合計算能力和CUDA本機兼容性。第三款芯片是中端GPGPU芯片，該芯片還將采用先進工藝，提供混合精度計算能力和CUDA本機兼容性。它也是一個完全自主開發(fā)的GPGPU架構(gòu)，專注于圖形和圖像的邊緣云推理場景?！?/p>

　　可見，Iluvatar CoreX I在場景應(yīng)用上還有待補充，無論是適配其它系列芯片還是場景遷移能力，需在實際應(yīng)用中進一步研發(fā)完善。

　　軟硬件集成困難

　　從軟件上看，天數(shù)智芯推出了四代SkyDiscovery，即人工智能軟件平臺，提供一站式服務(wù)，用于數(shù)據(jù)集成、智能數(shù)據(jù)存儲、模型評估服務(wù)部署等一站式服務(wù)。SkyDiscovery的作用是連接開源生態(tài)系統(tǒng)。該工具可以在開源生態(tài)系統(tǒng)中實現(xiàn)應(yīng)用程序的移植，并使現(xiàn)有的開源系統(tǒng)解決方案的擴展性、可用性、可靠性和性能提升。

　　但這種開源系統(tǒng)的銜接也更容易讓顧客離開。為此，在連接開源生態(tài)系統(tǒng)后，必須根據(jù)客戶的需求提供一些特殊的支持。一旦企業(yè)這樣部署后，用戶會在撤離的時候思考可替代性的問題，于是就給客戶的離開多設(shè)置了一層關(guān)口。

　　從計算能力的角度來看，這個平臺應(yīng)該為數(shù)據(jù)應(yīng)用提供一個接口集線器。天數(shù)智芯需要做的是一個通用架構(gòu)處理器，支持通用的同時并行計算。未來，隨著市場的成熟，人工智能可以集成到架構(gòu)中。

　　顯然，天數(shù)智芯目前只是單純盯著軟硬件通用標準。其負責人認為：很難預(yù)測三到五年后會出現(xiàn)什么樣的算法，以及提取數(shù)據(jù)價值的最有效方法是什么?，F(xiàn)在只能著重于它的通用性，而對于其未來的生命周期，是很難預(yù)估的。

　　天數(shù)智芯方面稱，希望用20年時間，使我們自主知識產(chǎn)權(quán)的芯片和軟件成為世界一流的入門級產(chǎn)品。這意味著天數(shù)智芯正在做一件大事，但是大事是困難的。

　　目前，天數(shù)智芯提供了邊緣計算系統(tǒng)板卡和PCIe加速卡，但在軟硬件集成上還沒有切實解決中國客戶的痛點。中國客戶的特點重在落到實處的解決方案和應(yīng)用場景。這需要天數(shù)智芯在芯片的基礎(chǔ)上，進一步通過軟件積累新的價值，在商業(yè)上也實現(xiàn)更好的利用。

　　據(jù)了解，天數(shù)智芯以往的軟硬件結(jié)合方案已被客戶應(yīng)用于醫(yī)療、安保監(jiān)控等行業(yè)，但在智能制造、智能新零售、智能醫(yī)療、智能園區(qū)、智能垃圾分類等多行業(yè)還未開展部署。

　　在發(fā)布會上，天數(shù)智芯展示了軟硬件產(chǎn)品在藥物識別、垃圾分類、人臉識別等方面的應(yīng)用。以此希望與更多合作伙伴合作，在實際應(yīng)用中彌補缺漏，推動石油、天然氣勘探、交通運輸、風電等為代表的能源產(chǎn)業(yè)以及船舶制造等大型裝備制造業(yè)的智能化解決方案落地，最終推動智能制造業(yè)互聯(lián)網(wǎng)的發(fā)展。

　　天數(shù)智芯智能核心剛剛開完務(wù)虛會，公司希望用3年左右的時間，在中國整個工業(yè)制造領(lǐng)域建立一個基于天數(shù)智芯的工業(yè)互聯(lián)網(wǎng)產(chǎn)業(yè)聯(lián)盟。也希望在三年左右的時間里，既能收支平衡，又能有足夠的利潤擴大基礎(chǔ)投資隊伍，使產(chǎn)品有機地發(fā)展20年，達到國際一流的入門水平。

　　此前，天數(shù)智芯剛剛完成了B輪融資，金額達數(shù)億元，由大鉦資本、Princeville Capital領(lǐng)投，上海電氣香港有限公司、邦盛資本等跟投。經(jīng)歷了創(chuàng)業(yè)期的無知、野蠻成長和顛簸，天數(shù)智芯經(jīng)歷了一個完整的創(chuàng)業(yè)閉環(huán)。但如何形成軟硬件協(xié)同，突破用戶場景落地困難等局面，成了天數(shù)智芯短期內(nèi)繞不開的難題，這也是天數(shù)智芯實現(xiàn)計劃愿景的必經(jīng)路徑。