Stable Diffusion Web UI 加速
有朋友私信我關(guān)于Stable Diffusion Web UI部署中遇到的問題,我覺得很有幫助下面,我列舉一些對(duì)Web UI 速的舉措。
當(dāng)然如果是 4080 及以上的顯卡,直接抄下面代碼:
set COMMANDLINE_ARGS=--listen?--opt-sdp-attention?--enable-insecure-extension-access?--disable-nan-check?--opt-channelslast
其中,--listen
?--disable-nan-check
?兩個(gè)選項(xiàng)可以根據(jù)你的需要開關(guān),第一個(gè)可以讓你的網(wǎng)頁被局域網(wǎng)內(nèi)其他電腦訪問,第二個(gè)可以讓你跳過輸出檢查,防止因?yàn)檩敵隽撕谏珗D片而報(bào)錯(cuò)中斷。
首先還是查找具體原因,可以通過如下的插件來查看自己顯卡對(duì)Web UI的支持情況:請(qǐng)下載測(cè)速插件

進(jìn)入系統(tǒng)消息(System Info)選項(xiàng)卡,界面如下

選擇?quick/normal/extensive?分別對(duì)應(yīng)?1/1,2,4/1,2,4,8,10?批量 點(diǎn)擊跑圖 ,等待后出現(xiàn)速度,在詢問他人速度是否正常時(shí),可以直接截圖當(dāng)前的整條信息。

然后判斷你的速度是否正常/排名,請(qǐng)看網(wǎng)站:測(cè)速排名?搜索你的顯卡型號(hào),查看其他人的速度,以及他們的各選項(xiàng),如果速度不對(duì),只需要一一比對(duì)參數(shù),然后抄作業(yè)就可以了。

要注意的是,部分加速手段會(huì)對(duì)圖片質(zhì)量及顯存有較大影響,所以綜合取舍最合適自己設(shè)備的選項(xiàng)即可。
通過torch2.0 + cu118 + sdp?的方案提速:
重新安裝/git拉取最新版本的官方 Web UI 后可以直接無腦適配,門檻最低,效果顯著。
定論:根據(jù) Github 中的 discuss ,以及 Reddit 上的超長性能貼討論,較為一致的看法是新版UI+新版torch可以替代舊版的手動(dòng)cudnn方案。**重要的是,終于可以作用到20,30系顯卡了!**下文為對(duì)該方案的逐步操作帖子鏈接
目前最新版為 PyTorch 2.1 構(gòu)建版,考慮到難度和穩(wěn)定性,這里推進(jìn) 2.0 版本,且網(wǎng)頁數(shù)據(jù)也顯示 2.0 和 2.1 差距不大。以下所有命令都在終端(SD 所在文件夾)內(nèi)輸入:
更新 PyTorch 2.0 and Cuda 11.8
pip install torch==2.0.0?torchvision?--extra-index-url https://download.pytorch.org/whl/cu118?

下載較慢的話可以嘗試自行換 pip 源,等待安裝,這可能需要下載10分鐘在之前,我們常用 xformers 來進(jìn)行加速,現(xiàn)在你需要關(guān)掉它,轉(zhuǎn)而使用新的 PyTorch 優(yōu)化
--opt-sdp-attention?
,只需要?jiǎng)h掉--xformers
的部分,添加--opt-sdp-attention
到COMMANDLINE_ARGS=
后即可前往?CUDA 下載下載11.8版本,前往?CUDNN 下載下載對(duì)應(yīng)你系統(tǒng)的版本,8.8.0的cudnn?;蛘咄ㄟ^百度網(wǎng)盤地址下載,但是可能會(huì)更新較慢現(xiàn)在,讓我們啟動(dòng)webui,查看底部信息

如果顯示的是torch2.0+cu118,就說明成功了,這個(gè)時(shí)候再次去System Info 面板下跑下測(cè)試吧~
安裝新版 CUDA 和 CUDNN
修改 webui-user.bat 配置
問題:開啟 –opt-sdp-attention 后會(huì)提高顯存的需求,你會(huì)發(fā)現(xiàn)之前hires可以開啟的分辨率,現(xiàn)在會(huì)爆顯存,你可以配合分塊vae插件來解決這個(gè)問題。 存在和 xformer 一樣的不確定性問題,可以通過修改為?
--opt-sdp-no-mem-attention
?解決,但是會(huì)損失一丟丟速度Tips1 :如果你是新克隆的 Web UI 存儲(chǔ)庫,可以直接在webui-user.bat文件中包含下列代碼,以便初始化:
set COMMANDLINE_ARGS=?--opt-sdp-attention set TORCH_COMMAND=pip install torch==2.0.0?torchvision?--extra-index-url https://download.pytorch.org/whl/cu118
Tips2 : 如果你是已經(jīng)安裝了 PyTorch 1.3 的存儲(chǔ)庫,可以修改 webui-user.bat 包含以下內(nèi)容:
set COMMANDLINE_ARGS=?--opt-sdp-attention?--reinstall-torch set TORCH_COMMAND=pip install torch==2.0.0?torchvision?--extra-index-url https://download.pytorch.org/whl/cu118
?在啟動(dòng)后刪除--reinstall-torch set TORCH_COMMAND=pip install torch==2.0.0 torchvision?--extra-index-url https://download.pytorch.org/whl/cu118
?即可。這時(shí)候你的 webui-user.bat 的內(nèi)容可能類似這樣:
