編譯 PaddlePaddle 模型
2023-07-24 16:32 作者:HyperAI超神經(jīng) | 我要投稿

本篇文章譯自英文文檔?Compile PaddlePaddle Models tvm 0.14.dev0 documentation
作者是?ZiyuanMa (Ziyuan Ma) · GitHub
更多 TVM 中文文檔可訪問 →Apache TVM 是一個端到端的深度學習編譯框架,適用于 CPU、GPU 和各種機器學習加速芯片。 | Apache TVM 中文站
本文介紹如何用 Relay 部署 PaddlePaddle 模型,首先安裝 PaddlePaddle(版本>=2.1.3),可通過 pip 快速安裝:
或參考官方網(wǎng)站:
https://www.paddlepaddle.org.cn/install/quick?docurl=/documentation/docs/zh/install/pip/linux-pip.html
輸出結(jié)果:
加載預訓練的 ResNet50 模型
加載 PaddlePaddle 提供的 ResNet50 預訓練模型:
輸出結(jié)果:
加載測試圖像
還是用貓的圖像:
使用 Relay 編譯模型
輸出結(jié)果:
在 TVM 上執(zhí)行
查找分類集名稱
在 1000 個類的分類集中,查找分數(shù)最高的第一個:
輸出結(jié)果:
下載 Python 源代碼:https://tvm.apache.org/docs/_downloads/16269b77359771348d507395692524cf/from_paddle.py
下載 Jupyter Notebook:https://tvm.apache.org/docs/_downloads/a608d8b69371e9bc149dd89f6db2c38e/from_paddle.ipynb