開發(fā)者基于實際工業(yè)場景完成算法模型訓(xùn)練后，進行推理部署面臨諸多挑戰(zhàn)，例如：不知道如何進行部署、所用的模型和學(xué)習(xí)框架不一定對實際生產(chǎn)部署有良好的支持、需要適配廣泛的硬件環(huán)境、在復(fù)雜的場景下確保算法性能等。

近日，極市平臺針對工業(yè)級項目落地難題推出部署套件EVDeploy ，旨在簡化模型推理步驟，使開發(fā)人員專注于業(yè)務(wù)邏輯代碼的編寫，加快算法封裝速度，讓算法落地更簡單。

極市部署套件

EVDeploy（極市部署套件）是面向開發(fā)者的產(chǎn)業(yè)級AI推理部署工具，具備快速集成、跨硬件適配、支持海量模型結(jié)構(gòu)等特點。EVDeploy?支持主流 SOTA 及海量自定義網(wǎng)絡(luò)結(jié)構(gòu)，支持檢測、分割、分類、OCR等多種視覺任務(wù)場景。開發(fā)者可通過 EVDeploy 提供的通用接口，快速完成AI能力集成，專注AI算法邏輯及工程化業(yè)務(wù)開發(fā)，極大提升AI算法開發(fā)效率。

今日，極市部署套件EVDeploy正式開啟公測！歡迎各位CVer來平臺體驗，并提供寶貴反饋~

公測時間：2023年7月6-26日

為表示感謝，我們將給完成公測任務(wù)的開發(fā)者可根據(jù)任務(wù)完成情況獲得小極玩偶、CV技術(shù)書籍、機械鍵盤、京東卡等禮品以及平臺算力卡時。

根據(jù)具體任務(wù)完成情況，開發(fā)者可領(lǐng)取相應(yīng)獎品，具體細則見下文。

EVDeploy 公測要求

1.開發(fā)者首先在指定榜單項目完成模型開發(fā)并測試出分，解鎖算法開發(fā)模塊；

2.使用EVDeploy完成C++ EVSDK算法封裝，提交算法后SDK線上規(guī)范性測試通過；

3.輸出EVDeploy使用反饋并提交給極小新（微信ID：cvmart8）。

公測指定榜單項目及獎勵標準：

https://docs.qq.com/sheet/DTWRaTEpZVFVkcHds?tab=BB08J2

參與公測的開發(fā)者按照達標時間先后獲取相應(yīng)獎勵，每個榜單項目有10個獎勵名額 >>>

EVDeploy使用反饋指引

1、如果你是平臺老開發(fā)者，在平臺上完成過封裝，請從以下幾個方面進行反饋：

（1）對比以往開發(fā)流程進行反饋；

（2）對比你使用過的其他部署套件進行反饋；

（3）對比原生TensorRT/Atlas CANN/OpenVINO推理框架進行反饋；

（4）問題/建議/期望。

2、如果你是首次在極市平臺上進行算法開發(fā)封裝，請從以下幾個方面進行反饋：

（1）在C++ EVSDK中完成模型推理開發(fā)時你遇到什么問題？

（2）使用EVDeploy對你來說是否簡化了封裝流程？如有，解決了哪些讓你不用套件進行封裝時可能遇到的比較棘手的問題？

（3）當前使用EVDeploy對你來說比較困難/比較花時間的是什么？

（4）對比使用過的其他部署套件進行反饋；

（5）問題/建議/期望。

EVDeploy 如何使用

極市平臺上完成榜單項目模型開發(fā)得出成績分即可解鎖算法開發(fā)模塊，開發(fā)者需要在AI開發(fā)工作臺-算法開發(fā)模塊按照C++EVSDK規(guī)范完成算法封裝。環(huán)境中完成EVDeploy安裝后，即可在EVSDK中進行調(diào)用。

EVDeploy安裝

下載EVDeploy的release版, git clone

https://gitee.com/cvmart/evdeploy_release, 執(zhí)行安裝腳本：

cd EVDeploy_release

bash install.sh

*無須編譯,相關(guān)庫會安裝到指定路徑,可在sdk中直接使用。

EVDeploy部署套件使用指引：

https://gitee.com/cvmart/evdeploy_release/blob/master/README.md

如果在使用部署套件過程有疑問或者困難，可以在按照規(guī)范提交在線咨詢，平臺技術(shù)人員將進行排查提供支持，在線答疑入口：

https://docs.qq.com/sheet/DTWpKREtyc3loc2JO?tab=BB08J2

相關(guān)資源

極市平臺算法線上EVSDK封裝指南（C++）[內(nèi)含Demo]：

https://www.cvmart.net/community/detail/6903

視覺AI開發(fā)學(xué)習(xí)地圖——從算法開發(fā)到落地部署全流程學(xué)習(xí)資料

https://www.cvmart.net/community/detail/7177

算法開發(fā)全流程教學(xué)視頻合輯

https://space.bilibili.com/85300886/channel/collectiondetail?sid=1072831

極市平臺7月沖榜活動進行中，完成算法開發(fā)挑戰(zhàn)封裝獎學(xué)金！