MediaTek聯合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃
8月16日,MediaTek正式宣布與百度聯合發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計劃,雙方將共同推進MediaTek硬件平臺與飛槳和文心大模型的適配。目前雙方正在合作優(yōu)化文心大模型在終端設備上的執(zhí)行效果,將實現大模型在終端和云端的協同工作,為用戶帶來突破性的生成式AI應用體驗。
作為推動AI進一步發(fā)展的先進技術,與單純在云端部署生成式AI應用和服務相比,終端側部署生成式AI在節(jié)約服務器成本、保護用戶信息安全、提升實時性和實現個性化用戶體驗等方面具備明顯優(yōu)勢。雙方的合作將支持基于MediaTek芯片的智能手機、汽車、智能家居、物聯網等終端設備上運行文心大模型,賦能終端設備提供更安全、可靠和差異化的使用體驗。
MediaTek與百度合作已久,雙方合作完成了Paddle Lite 輕量化推理引擎基于MediaTek NeuroPilot 人工智能通用軟件平臺的適配。
NeuroPilot是MediaTek為開發(fā)者提供的基于本地端側的AI運算解決方案,它為內建CPU、GPU 和 APU(獨立AI 處理器)等異構運算單元的MediaTek SoC平臺提供完整且強大的軟件解決方案。NeuroPilot支持開發(fā)者在現有和未來的MediaTek 硬件平臺以及包括智能手機、汽車、智能家居、物聯網等產品線實現“一次編寫,全場景通用”,幫助開發(fā)者在MediaTek平臺上高效開發(fā)和部署基于神經網絡模型的AI應用程序。AI開發(fā)者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定義的第三方通用AI框架來構建神經網絡模型,并接入到NeuroPilot系統,充分發(fā)揮MediaTek AI系統的強勁算力,顯著提高模型運行在設備上的效率,并降低功耗和內存消耗。
MediaTek無線通信事業(yè)部副總經理李彥輯博士表示:“百度飛槳深度學習平臺和文心大模型在AI領域處于領先地位,我們雙方將聚焦AI大模型在終端側的部署,為用戶提供更安全可靠,更個人化,更低成本的端側生成式AI解決方案,賦予終端設備更強大的AI能力。MediaTek攜手百度飛槳和文心大模型,通過AI端云融合,將為廣大開發(fā)者和終端用戶帶來更多令人興奮的AI創(chuàng)新機遇和產品體驗?!?
生成式人工智能浪潮下,大模型正成為新一輪科技革命和產業(yè)變革的重要驅動力量。MediaTek將持續(xù)攜手百度飛槳和文心大模型,加速終端側生成式AI的部署,共同打造軟硬一體的人工智能大模型平臺,讓科技惠及大眾,為千行百業(yè)賦能。