AMD GPU加速openAI whisper音視頻轉(zhuǎn)字幕和文字
今天總算搞定了,用amd顯卡加速openAI-whisper音視頻轉(zhuǎn)字幕和文字。要比用cpu快了很多很多。
下面是我的電腦配制

第一步:為amd顯卡安裝完整的rocm
到amd官網(wǎng)下載自己對應(yīng)該的顯卡驅(qū)動安裝腳本
https://www.amd.com/zh-hans/support
我的顯卡是6600xt

這是會跳到腳本下載頁面

默認(rèn)保存在下載目錄

來到下載目錄下面
空白處鼠標(biāo)右鍵選擇在終端打開

分別在終端輸入下面的命令
sudo vim /etc/os-release

按i 用鍵盤上的上下左右移動鍵,移到Deepin這里,把Deepin改為ubuntu
改完后按一下鍵盤上最左上角的ESC鍵退出修改模式
按著在英文輸入狀態(tài)下 按shift+:
再輸入wq就保存退出了vim編輯器回到了終端。不會vim的可以用別的編輯器或者自己網(wǎng)上稍微找個vim的教程看一下。
按著在終端輸入
sudo chmod +x ./amdgpu-install_5.5.50503-1_all.deb (給腳本增加權(quán)重)
sudo apt install ./amdgpu-install_5.5.50503-1_all.deb (安裝腳本)
等腳本安裝好后,
到/etc/apt/

然后在空白處,鼠標(biāo)右鍵選擇以管理員身份打開

修改下面的這兩個文件

如果系統(tǒng)自帶的文本編輯器打不開,就到應(yīng)用商店安裝一個Sublime Text4
把amdgpu.list里的
deb https://repo.radeon.com/amdgpu/5.6/ubuntu focal main(amdgpu后面的數(shù)字改成5.6或者5.4.2只能這兩個數(shù)字,暫時)
把rocm.list里的
deb [arch=amd64] https://repo.radeon.com/rocm/apt/5.6 focal main (apt后面的數(shù)字改成5.6或者5.4.2只能這兩個數(shù)字,暫時)
先別問為什么只能5.6或者5.4.2,后面你自然知道了
改好后保存
開始安裝顯卡驅(qū)動:終端輸入
sudo apt update
sudo amdgpu-install --usecase=rocm,hip,mllib --no-dkms
直接等安裝完成,可能會比較慢。我試過最快的安裝時候是上午9點前,晚上2點以后。不過我知道一個比較快的方法,就是自己去下載,來替換終端下載。這個一下說不清,以后有空錄個視頻吧。
如果安裝的時候出現(xiàn)什么依賴,留言?。。。。。∪f一出現(xiàn)依賴應(yīng)該也就這么一個
出現(xiàn)依賴liburi-encode-perl_1.1.1-1這個到這里下載
[https://cloud.189.cn/web/share?code=Q3UJjm3i2yey](https://cloud.189.cn/web/share?code=Q3UJjm3i2yey)(訪問碼:urv9)
再用sudo vim /etc/os-release把前面改的ubuntu換會Deepin
到此rocm安裝完成
其實腳本不用卸載,這樣備注一下就好,下次要用方便


第二步安裝openAI whisper
1:終端分別輸入:
echo 'export PATH=/home/deepin(改成自己的用戶名,打開終端就能看到)/.local/bin:$PATH' >>~/.bashrc
source ~/.bashrc
安裝:sudo apt install python3-pip
升級:python3 -m pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -U pip
安裝需要的軟件包:python3 -m pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -U vosk pysubs2 SRTranslator openai-whisper setuptools-rust ffmpeg
上面安裝完后,打開網(wǎng)站https://pytorch.org/
把網(wǎng)頁下拉

如果你前面安裝的rocm5.4.2就選擇

把下面的復(fù)制到終端安裝pytorch
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm5.4.2
如果rocm安裝的是5.6

把下面的復(fù)制到終端
pip3 install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/rocm5.6
說一下,5.4.2是穩(wěn)定版,5.6的是日構(gòu)版,我用的就是5.6的,因為我系統(tǒng)安裝的是rocm5.6
**?。。。。。∪绻愕南到y(tǒng)前面已經(jīng)安裝了別的rocm版本就要先卸載,再安裝這兩個版本了。?。。。。。?!**
第三步完善設(shè)置
1:sudo vim /etc/modprobe.d/amdgpu.conf打開后在里面添加
options amdgpu si\_support=1
options amdgpu cik\_support=1
2:等上面安裝好后,在終端分別輸入下面這個命令
ls -l /dev/dri/render\*
sudo usermod -a -G render \$LOGNAME
sudo usermod -a -G video \$LOGNAME
3:設(shè)置用戶 GPU 使用權(quán)限,將當(dāng)前用戶加入到權(quán)限組:
sudo usermod -a -G video \$LOGNAME
4:為系統(tǒng)以后的用戶都添加權(quán)限
sudo /opt/rocm/bin/rocminfo
sudo /opt/rocm/opencl/bin/clinfo
5:將 ROCm 添加到環(huán)境變量:
sudo echo 'export PATH=\$PATH:/opt/rocm/bin:/opt/rocm/profiler/bin:/opt/rocm/opencl/bin' | sudo tee -a /etc/profile.d/rocm.sh
監(jiān)控(optional)
AMD 沒有 NVIDIA 類似 nvidia-smi 的命令,只能使用第三方,這里推薦 radeontop,可以直接使用 apt 安裝。
sudo apt-get install radeontop
sudo radeontop
6:在終端輸入
sudo /opt/rocm/bin/rocminfo
如果沒有報錯,說明安裝成功了。到這里還沒有完,接著網(wǎng)下看
7:將ROCm路徑加入系統(tǒng)PATH環(huán)境變量
在終端輸入
sudo echo 'export PATH=\$PATH:/opt/rocm/bin:/opt/rocm/profiler/bin:/opt/rocm/opencl/bin' | sudo tee -a /etc/profile.d/rocm.sh
8:終端輸入
sudo vim ~/.bashrc #添加下面
export HSA_OVERRIDE_GFX_VERSION=10.3.0 #我這里的顯卡是amd的RX6600xt
export LD_LIBRARY_PATH=/opt/rocm/lib
source ~/.bashrc#通重新執(zhí)行剛修改的初始化文件
到這里可以說是完成了,但還要修改一個文件和檢查一下
在終端輸入
python3
import torch
torch.cuda.is_available()
如果返回True
恭喜你,安裝成功。如圖

最輸入exit()退出python
如果你輸出的不是這樣的,去看看這篇https://www.bilibili.com/read/cv22748315/
最重要,最重要,最重要的一步來了,如果不修改timing.py文件,音視頻轉(zhuǎn)換字幕或文字會報錯
一定要用Visual Studio Code修改,應(yīng)用商店安裝一下,然后在Visual Studio Code里安裝一個python插件(不會的自己網(wǎng)上查一下,很簡單的,這里就不介紹了)。
到/home/deepin(你用戶名)/.local/lib/python3.10/site-packages/whisper
到whisper找到timing.py


把57行的 `@numba.jit改成@numba.jit(nopython=True)`
最后保存,到此結(jié)束
whisper音頻轉(zhuǎn)字幕或文字,這里有介紹https://github.com/openai/whisper
gpu就是比cpu要快很多很多,顯卡利用率最好百分之90多


到此結(jié)束?。。?!