OpenVINO2022計(jì)算機(jī)視覺(jué)模型部署與加速教程

學(xué)習(xí)地址1：https://pan.baidu.com/s/1-NsZHwkVVcNmLUOGb82A2Q 提取碼: amzn

學(xué)習(xí)地址2：https://share.weiyun.com/qPIH3bzY 密碼：v6ytaw

《OpenVINO2022計(jì)算機(jī)視覺(jué)模型部署與加速教程》分享，視頻+源碼+模型文件+思維導(dǎo)圖下載！

1.1 OpenVINOTMTM 安裝環(huán)境

OpenVINOTMTM 是一款依賴(lài)計(jì)算機(jī)或智能設(shè)備硬件的模型推理部署套件，在邊緣啟用基于 CNN 的深度學(xué)習(xí)推理，支持跨英特爾? CPU、英特爾? 集成顯卡、英特爾? 神經(jīng)計(jì)算棒 2 和英特爾? 視覺(jué)加速器設(shè)計(jì)與英特爾? MovidiusTM VPU 的異構(gòu)執(zhí)行。此處我們介紹在Windows平臺(tái)上的安裝和使用。

由于OpenVINOTMTM 是一款依賴(lài)計(jì)算機(jī)或智能設(shè)備硬件的模型推理部署套件，因此它可以在自家的設(shè)備上很好的運(yùn)行，經(jīng)過(guò)測(cè)試，在Windows平臺(tái)上，非 intel CPU設(shè)備也可以運(yùn)行OpenVINOTMTM，例如AMD推出的CPU，此處安裝使用的設(shè)備為AMD R7-5800H；對(duì)于顯卡設(shè)備不支持英偉達(dá)等其他顯卡，僅支持英特爾自家顯卡。

友情提醒

在導(dǎo)出ONNX格式模型后，可以使用Netron可視化網(wǎng)絡(luò)結(jié)構(gòu)，明確網(wǎng)絡(luò)的輸入、輸出名稱(chēng)以及尺寸，為推理作準(zhǔn)備！

導(dǎo)出時(shí)可以指定input&output name，尤其是多輸出模型，這樣在推理后可以推理請(qǐng)求中根據(jù)name獲取結(jié)果；

實(shí)際上，OpenVINO 2022支持自動(dòng)獲取輸入、輸出節(jié)點(diǎn)名稱(chēng)！！單輸入、單輸出的模型可以放心交給API，而多輸出模型也可以像舊版本一樣通過(guò)name獲取，也可以通過(guò)輸出編號(hào)獲取結(jié)果。

2022版本加載模型提供了兩種模式分別是read_model與compile_model方式，這兩種方式得到分別是model跟compiled model，其中通過(guò)read_model方式讀取的model對(duì)象可以通過(guò)compile_model函數(shù)轉(zhuǎn)換為compiled model，同時(shí)它們都支持直接訪問(wèn)屬性獲取輸入與輸出層信息（inputs/outputs）

然后重啟VS2019，執(zhí)行如下代碼測(cè)試：

#include <openvino/openvino.hpp>

#include <openCV2/opencv.hpp>

using namespace cv;

using namespace std;

int main(int argc, char** argv) {

? ? // 創(chuàng)建IE插件, 查詢(xún)支持硬件設(shè)備

? ? ov::Core ie;

? ? vector<string> availableDevices = ie.get_available_devices();

? ? for (int i = 0; i < availableDevices.size(); i++) {

? ? ? ? printf("supported device name : %s \n", availableDevices[i].c_str());

? ? }

? ? return 0;

}