PaddleSlim +OpenVINO助力開發(fā)者實現(xiàn)Al模型量化與部署
2023-07-20 15:00 作者:飛槳PaddlePaddle | 我要投稿
低比特量化是深度學(xué)習(xí)中一個很有價值的方法,它將連續(xù)的浮點數(shù)數(shù)值映射到低比特表示的離散整數(shù)數(shù)值,可以顯著減少深度學(xué)習(xí)模型的存儲資源占用和計算量,使其更高效、更容易部署在資源受限的設(shè)備上。
基于百度飛槳與英特爾在量化方面的深度合作,7月28日,百度飛槳與英特爾團隊的資深工程師將與大家共同探討量化壓縮與推理的聯(lián)合優(yōu)化問題,介紹OpenVINOTM如何對PaddleSlim量化模型進行支持。在本次演講中,我們將探討可應(yīng)用于深度學(xué)習(xí)模型的不同類型的量化技術(shù)。此外,還將介紹神經(jīng)網(wǎng)絡(luò)壓縮框架( NNCF ),以及其如何進一步為OpenVINOTM工具套件進行加持,從而實現(xiàn)卓越性能。
您將學(xué)習(xí)到:
量化技術(shù)的價值以及不同類型的量化技術(shù)
如何基于OpenVINOTM工具套件使用NNCF
通過Jupyter Notebook演示量化前后的神經(jīng)網(wǎng)絡(luò)圖,并進行性能比較
以目標(biāo)檢測任務(wù)為例,基于無人機巡檢場景介紹OpenVINOTM對飛槳量化模型的支持
活動亮點:
飛槳模型壓縮工具庫
基于PaddleSlim和OpenVINO的量化壓縮與推理的聯(lián)合優(yōu)化
以目標(biāo)檢測任務(wù)為例,基于無人機巡檢場景介紹OpenVINO對飛槳量化模型的支持
誠邀您參加此次會議,和我們一起走近模型量化之旅
