一鍵包本地部署vits推理項目
這個教程是介紹如何使用快速部署包來本地部署vits推理項目。
快速部署
第一步,下載快速部署包https://github.com/Artrajz/vits-simple-api/releases/tag/v0.2.0
第二步,解壓,將自己的vits模型放到Model文件夾中。(其實(shí)也可以隨便放哪里,重要的是后面模型路徑填對就行)
第三步,修改模型路徑。打開config.py,找到MODEL_LIST這個變量,仿照默認(rèn)給出的路徑,修改為自己模型的路徑。
ABS_PATH代表項目的絕對路徑,不懂的把模型放到Model文件夾后照著修改就可以了。
路徑前面有#的是注釋,表示不加載此模型,寫好以后可以使用注釋選擇加載哪些模型。

第四步,雙擊start.bat啟動。我這里只加載了一個模型,加載完成后應(yīng)該是這樣的。

如果沒問題的話,使用瀏覽器訪問http://127.0.0.1:23456就可以訪問webui界面了。

GPU推理
GPU推理需要安裝CUDA。可以先檢測自己有沒有安裝過:使用打開cmd,輸入nvcc -V回車,如果沒有報錯就說明安裝過了。

如果沒有安裝,可以在官網(wǎng)下載https://developer.nvidia.com/cuda-11-7-0-download-archive?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local
具體安裝過程就不贅述了,網(wǎng)上教程也很多,安裝也比較簡單沒有什么坑。
如果是其他部署方式可能需要自行安裝GPU版pytorch,但是因為快速部署包里已經(jīng)安裝好了所以可以忽略,只需要安裝cuda。
使用API
啟動后,可以使用get方法或者post方法調(diào)用api,get方法比較簡單,例如直接訪問http://127.0.0.1:23456/voice/vits?text=你好,こんにちは&id=0就會返回一個音頻流,修改text參數(shù)就可以更改合成的文本,修改id可以更改說話人。
還有其他調(diào)用方法可以看項目文檔,這里就不介紹了,因為本篇教程只是說明如何部署vits。
?
中文項目文檔https://github.com/Artrajz/vits-simple-api/blob/main/README_zh.md