解決4090顯卡(40系)LORA腳本訓(xùn)練慢的問題
首先40系顯卡跑SD是不能滿速的,主要是pytoch、cudnn、xformers這些東東的版本問題,這個(gè)已經(jīng)有各位大佬給出解決方案了,比如這里

和這里

同樣的道理,現(xiàn)在各種單獨(dú)的lora訓(xùn)練腳本也存在版本過低,不能發(fā)揮40系顯卡真正實(shí)力,
我試了秋葉佛祖、星空佛祖的集成包,發(fā)現(xiàn)都是用的舊版本組件,然后查了很多資料就開始嘗試自己升級組件,但是就算最后升級完,運(yùn)行時(shí)還是報(bào)錯(cuò)無法正常運(yùn)行,于是去GIT找了一些比較純凈的訓(xùn)練腳本,其中下面這個(gè)鏈接
https://github.com/bmaltais/kohya_ss
這個(gè)GUI版的腳本升級后是能正常運(yùn)行的,速度飛快,星空大佬的也是用這個(gè)進(jìn)行再加工的吧,但是星空大佬的升級完就是不能正常跑,不知道為啥
具體步驟:
1、下載git的壓縮包文件下來后解壓,解壓出來的目錄一般為kohya_ss-master,作為根目錄
修改根目錄下setup.bat,將以下三行
改為
2、然后下載CUDNN 8.6,鏈接是
https://b1.thefileditch.ch/mwxKTEtelILoIbMbruuM.zip
是作者GIT頁面提供的鏈接;
下載完成后解壓,拷貝cudnn_windows下的所有文件覆蓋
根目錄\venv\Lib\site-packages\torch\lib\*.*
3、運(yùn)行根目錄下的setup.bat進(jìn)行安裝
裝完后在終端用
執(zhí)行GUI界面即可
這些內(nèi)容kohya_ss的git頁面都有寫,可以網(wǎng)頁翻譯一下就明白了,希望國內(nèi)各位佛祖趕緊升級腳本組件
升級前后的對比圖

