編譯 OneFlow 模型

本篇文章譯自英文文檔 Compile OneFlow Models? ?(https://tvm.apache.org/docs/how_to/compile_models/from_oneflow.html)
作者是?Xiaoyu Zhang
(https://github.com/BBuf/)
更多 TVM 中文文檔可訪問(wèn) →Apache TVM 是一個(gè)端到端的深度學(xué)習(xí)編譯框架,適用于 CPU、GPU 和各種機(jī)器學(xué)習(xí)加速芯片。 | Apache TVM 中文站?
(https://tvm.hyper.ai/)?
本文介紹如何用 Relay 部署 OneFlow 模型。
首先安裝 OneFlow 包,可通過(guò) pip 快速安裝:
或參考官網(wǎng):https://github.com/Oneflow-Inc/oneflow
目前 TVM 支持 OneFlow 0.7.0,其他版本可能不穩(wěn)定。
輸出結(jié)果:
加載和保存 OneFlow 的預(yù)訓(xùn)練模型
輸出結(jié)果:
加載測(cè)試圖像
還是用貓的圖像:
將計(jì)算圖導(dǎo)入到 Relay 中
將 OneFlow 計(jì)算圖轉(zhuǎn)換為 Relay 計(jì)算圖,輸入任意名稱。
使用 Relay 構(gòu)建
用給定的輸入規(guī)范,將計(jì)算圖編譯為 llvm target。
輸出結(jié)果:
在 TVM 上執(zhí)行可移植計(jì)算圖
接下來(lái)在 target 上部署編譯好的模型:
輸出結(jié)果:
查找分類集名稱
在 1000 個(gè)類的分類集中,查找分?jǐn)?shù)最高的第一個(gè):
輸出結(jié)果:
下載 Python 源代碼:from_oneflow.py
(https://tvm.apache.org/docs/_downloads/f7ae979fbe61064749ce0fb7a621eb4c/from_oneflow.py)
下載 Jupyter Notebook:from_oneflow.ipynb
(https://tvm.apache.org/docs/_downloads/2e7b51cb39c472626dd3f046d9b89966/from_oneflow.ipynb)